生成AIが示した「判例」が、実は存在しなかった。その記述を載せた沖縄戦に関する書籍が、回収・絶版になりました。これは「AIは間違えるから使うな」で片づけると、いちばん大事なところを見落とします。
誤情報が著者の画面から本へ瞬間移動したわけではありません。授業資料から書籍へ移す際、著者が原典へ戻る機会があった。編集・校閲・最終承認も関門にできる。いや、ここが本題です。「AIを使った人は気をつけよう」では気合い一本。必要なのは、各段階で原典へ戻る確認の鎖です。
出版社の高文研は、9月に刊行した島袋純･琉球大教授の著書｢無責任の体系と沖縄戦｣に事実と異なる記述があったとして、絶版として回収すると公式サイトで発表した。発表は9月24日付…
今回の登場人物
- 『無責任の体系と沖縄戦』：琉球大学教授の島袋純氏が執筆し、高文研が2026年9月11日に刊行した書籍です。沖縄戦の住民被害を扱う本で、誤りの確認は被害の歴史を軽く扱わないためにも重要です。
- 生成AI：入力に応じてもっともらしい文章を組み立てる仕組みです。検索データベースのように「実在する記録だけを返す」とは限りません。存在しない名称や出典を、形の整った文章で示すことがあります。
- Virtual Tribunals：スタンフォード大学の人権・国際司法センターと図書館が、国際刑事裁判などの記録を保存・公開する取り組みです。判例の答えを保証するAIサービスではなく、記録を探して読むためのアーカイブです。
- 原典照合：裁判記録、判決文、論文の初出など、情報の根元にある資料へ戻り、名称、日付、番号、内容を確かめる作業です。「別のサイトにも同じ話があった」だけでは、同じ誤りを回覧している可能性が残ります。
- 編集・校閲・最終承認：原稿を本として整え、事実や表記を確認し、出版してよいか決める工程です。会社によって役割名や分担は違いますが、確認を著者一人の記憶へ預けないための関門になります。
何が起きたか
朝日新聞は10月9日、高文研が9月刊行の『無責任の体系と沖縄戦』を回収・絶版にすると発表したと報じました。高文研によると、本の147〜149ページに挙げた三つの判例が、実際には存在しませんでした。
10月10日に出版社サイトへ追記された著者の説明では、スタンフォード大学のVirtual TribunalsのURLを生成AIへ入力し、沖縄における日本軍による住民殺害の事例を出すよう指示したといいます。返ってきた英文判例を、そのデータベースから取得したものと思い込んで採用。まず授業資料に使い、その後も確認・精査せず著書へ用いた、と説明しています。
本は9月11日に刊行され、9月18日に回収・絶版を決定、9月24日に発表されました。出版社は10月10日、AI原稿に限らず校正・校閲を徹底すると追記しています。
著者は同じ追記で、別の論考タイトルを誤って記したことも明らかにし、AIを使ったほかの箇所を精査中だとしています。ここは言葉のブレーキが必要です。精査中のAI使用箇所に別の誤りまで確認されたわけではありません。また、AIが本全体を書いたとも、本の主張全体が誤りだとも、公開情報からは言えません。
ここが本題
生成AIが実在しない判例を示したとき、どこで止めるべきだったのでしょうか。
答えは「著者のところ」だけではありません。引用する人が原典を確認するのが第一です。しかし、人は思い込みます。一度使った資料は、確認済みと思い込みやすい。編集工程も「著者確認済み」を前提にすれば、止められません。だから、同じ前提に乗った人が一列で通過する工程では足りません。
そこでこの記事が提案するのが、著者、資料の再利用、編集、校閲、最終承認の各段階で、別の人や手順が原典へ戻ることです。空港の保安検査にたとえるなら、搭乗券を一度見たから手荷物検査は省略、とはしませんよね。確かめる危険が違うから、関門を分ける。その発想です。
AIの答えと資料庫は別物
今回の入口になったVirtual Tribunalsは、世界の裁判所や真実委員会の記録を長く保存し、検索できるようにする取り組みです。紙やマイクロフィルムをデジタル化し、検索用の情報を付け、記録を公開します。資料へたどり着くための立派な図書館です。
ところが、その図書館のURLを生成AIへ渡したからといって、AIの返答が図書館の所蔵記録そのものになるわけではありません。同じ机に並んでも、別物です。生成AIは、質問に合いそうな文章を作ります。裁判所名、事件名、日付、判決の要旨がきれいに並ぶと、人間は「こんなに細かいなら本物だろう」と感じます。ここがやっかいなんです。間違いは、ぼろ服ではなく、たまにネクタイを締めてやってきます。
判例を根拠に使うなら、AI回答とは別に、アーカイブの資料ページや判決日、事件の識別番号などを可能な限りたどる必要があります。見つからなければ、「検索が下手だった」で先へ進まず、引用を保留する。AIにもう一度聞いて自己採点させても、同じ思い込みを言い換える可能性があります。
第一関門は著者
第一関門です。著者が確認するのは、文章が自然かどうかではありません。少なくとも、裁判所名、事件名、判決日、事件番号、引用箇所、原典URLが一致するかを、一件ずつ見ます。そして原文を読み、AIが示した要約と同じ意味なのかを確かめます。
存在確認と内容確認は別です。実在する判決でも、別の国、別の争点、反対意見だけを切り取ったものかもしれません。「事件がある」から「この主張の根拠になる」へは、もう一段の橋が必要なんです。
今回のように歴史的な住民被害を扱うなら、架空の判例を足すことは単なる脚注ミスでは済みません。被害を受けた人々の経験をめぐる議論全体への信頼を傷つけかねない。だからこそ、誤りを面白がるのではなく、何を根拠に書いたかを丁寧に残す必要があります。
ここで著者個人を「AIを信じた人」と断罪して終えるのも危険です。本人は経緯と確認不足を説明し、謝罪しています。再発防止で問うべきなのは、人が二度と間違えない方法ではなく、人が間違えても出版前に見つかる方法です。
第二関門は再利用
次は再利用です。今回、情報は最初に授業資料へ入り、その後、著書に使われました。この「一度使った資料」が、確認をすり抜けやすいポイントです。ファイル名が「完成版」なら完成している、とは限りません。パソコンはそこまで責任感のある命名係ではないんですよ。
授業資料を本、ウェブ記事、報告書へ移すときは、新規原稿と同じ確認をやり直します。対象読者、公開範囲、残る期間が変わるからです。とくにAIを使った下書きやメモには、AIが補助した部分と、原典をどこまで確認したかを記録する。再利用時に記録がなければ、未確認として扱います。過去の自分を「確認済みの専門家」にしない仕組みです。
再確認の対象は「AI使用」だけに絞らないほうがよいでしょう。人が記憶で書いた引用、二次資料から写した数字、古い授業資料にも誤りは入ります。高文研がAI原稿に限らず校正・校閲を徹底するとしたのは、この点で大切です。
第三関門は編集
三つ目、編集段階では、引用を追跡できる形にそろえます。判例なら事件名だけでなく、裁判所、日付、事件番号、掲載資料、該当ページ、原典への導線を著者へ求める。欠けていたら、文章を直して先へ送らず、根拠がそろうまで止めます。文章のお化粧より、まず身元確認です。
「著者は大学教授だから」「専門書だから」という信頼と、出典確認は両立します。信頼とは確認を省く許可証ではありません。むしろ専門的で、一般の編集者が内容を判断しにくい原稿ほど、読める原典へつながる住所が必要です。
編集者がすべての専門知識を持つ必要はありません。「原文を開けるか」「書誌情報は一致するか」「引用はそのページにあるか」は確認できます。判断できなければ、詳しい校閲者や外部専門家へ回します。
第四関門は校閲
四つ目、校閲やファクトチェックでは、原稿の出典を提出された参考文献一覧と照らすだけでは足りません。同じ一覧が間違っていれば、二人そろって同じ穴へ落ちる。人数が増えても、見ている紙が同じなら安心は増えません。
判例名を独立して検索し、原典の所蔵ページを開き、裁判所、日付、番号、引用、原稿での意味を照らします。リンク切れの場合も、URLを削って終わりではなく、別の公的アーカイブや図書館記録で存在を確かめる。見つからないものには「要確認」の印を付け、著者へ根拠の提示を戻します。
AI検出ツールに文章を入れて「AIらしさ」を測るだけでは、架空判例は止められません。人が書いた誤りもありますし、AIが補助した正しい記述もあります。調べるべきは文章の出自より、主張と根拠のつながりです。AIという名札を追うより、脚注の住所へ実際に訪ねる。地味ですが、こちらのほうが効きます。
第五関門は最終承認
最後は、「誰かが見たはず」から卒業します。便利そうで、確認表には一文字も書けない言葉です。重要な引用ごとに、誰が、いつ、どの原典を確認し、未解決の点があるかを記録する。最終承認者は、確認表と原稿が一致するかを見て、未確認が残れば出版を止めます。
この記録は責任逃れのためではありません。修正が入ったときに、確認が古くなっていないかを見分けるためです。初校で正しかった脚注も、著者修正で文章や番号が変われば再確認が必要です。確認済みの判子は、内容が変わった後まで効く永久パスポートではありません。
専任の校閲部を置けない出版社もあります。それでも、判例、統計、直接引用、被害に関わる記述を高リスクとして優先し、外部専門家へ頼むことはできます。手段は違っても、「著者確認だけで通さない」は設計できます。
誰か一人の失敗談にしない
今回の公表資料から確認できるのは、三つの判例が実在しなかったこと、著者がAIの出力をデータベース由来と思い込んだこと、授業資料から本へ確認・精査せず再利用したこと、出版社が回収・絶版を決めたことです。
一方、編集工程のどこで何を確認したか、誰が法的な責任を負うか、ほかの記述にどの程度の誤りがあるかは、公表情報だけでは確定できません。したがって「出版社が意図的に見逃した」「本全体がAI製だ」とは言えません。工程を考えることと、未公表の事情を決めつけることは別です。
むしろ、個人の注意力だけに再発防止を背負わせると、次の人が同じ条件で間違えます。著者が原典を示す。再利用時に確認をリセットする。編集が追跡可能な引用を求める。校閲が独立に照合する。最終承認が確認記録を見る。この鎖なら、一つの関門が弱くても次で止められます。
読む側にも関係がある
読む側にも関係があります。仕事の資料や学校のレポートでも、AIが出した出典を使う場面は増えています。タイトル、著者、日付、URLがそろうと、本物らしく見えます。
でも、出典らしい文字列は出典ではありません。リンクを開き、文書が実在し、書かれている内容が自分の主張を支えるかまで確認して、初めて根拠になります。見つからなければ削るか、「確認できない」と書く。分からないものを分からないままにするのは、弱さではなく品質管理です。
そして、歴史的被害を扱うときは、誤情報が誰かの記憶や尊厳に触れることを忘れてはいけません。速く、読みやすく書ける便利さより、確認できる根拠を優先する。AI時代だから新しく生まれた原則というより、昔からある原典確認が、いよいよ省けなくなったという話です。
まとめ
『無責任の体系と沖縄戦』では、生成AIが示した実在しない三つの判例が授業資料を経て書籍に入り、回収・絶版となりました。AIの文章がもっともらしく見え、授業資料から書籍へ移す際にも原典確認で止まらなかった。そこが問題の筋道です。
再発防止は、著者へ「次から注意してください」と言うだけでは足りません。著者の原典確認、資料再利用時の再点検、編集段階での追跡可能な引用、校閲の独立照合、最終承認の確認記録という多重関門が必要です。
AIは、きれいな脚注の服を着た架空情報を出すことがあります。だから見るべきは、文章の格好ではなく、原典まで足跡が続いているかどうかです。一本でも途中で消えるなら、そこで止める。それが、本になる前に誤りを止める確認の鎖です。