当該記事が報じた「自動で新聞記事を作成するＡＩ」について、編集部では１７年に日経新聞が発表した「完全自動決算サマリー」、１９年の「ＧＰＴ－２」など、その動向について把握していました。

▲完全自動決算サマリー by NIKKEI（日経新聞サイトより）

　「完全自動決算サマリー」については、虚構ニュースを生成するＡＩではないこと、また、「ＧＰＴ−２」については、ＯｐｅｎＡＩが完全版を非公開としたため、性能を検証することができませんでした。そのため「記事を生成することはできても、本紙のような「オチ」まで理解・生成することは難しい」として、誤報ではないと判断してきました。

　しかし、２２年１１月、ＯｐｅｎＡＩが「ＧＰＴ－３」を利用した「ＣｈａｔＧＰＴ」を公開。２３年２月にはマイクロソフトが改良版「ＧＰＴ－４」を搭載した「新しいＢｉｎｇ（以下Ｂｉｎｇ）」を公開。これを受けて、編集部では検証委員会を立ち上げ、性能評価に取りかかりました。

▲本紙が報じた虚構記事作成ソフトウェア「ＫＹＯＫＯ」
　評価に当たっては、Ｂｉｎｇを使用し、記事内で言及した下記の３要素を設定。その上で（１）実際にはあり得ない虚構記事を自動で生成できるかどうか、（２）生成した記事がオチを持つかどうか、の２点を評価対象としました。

（１）「社会」「政治」「科学」などのジャンル
（２）「交通事故」「ソフトウェア」などのキーワード
（３）「風刺」「ダジャレ」「矛盾」など全体のテーマ

　記事と同じ「科学」「ソフトウェア」「矛盾」を要素として設定した結果、Ｂｉｎｇは以下のような記事を生成しました（※参照リンクは編集部で除外し、適宜改行を施しました。また記事中に実在する人物名が含まれていたため、一部イニシャル表記にしました）。

◆　　◆　　◆

ソフトウェア研究者が開発したＡＩが、科学的な真理を否定する

　慶應義塾大学理工学部のＫ教授率いるソフトウェア研究室は、ＧＰＵを用いた高速なディープラーニングによって、人間の認知能力を超えた複雑な問題を解くことができる人工知能（ＡＩ）システム「ＧＬｏｏｐ」を開発した。このシステムは、様々な分野の専門家から提供されたデータや知識を基に、自ら学習し、推論し、創造することができるという。

　しかし、この画期的なシステムにも欠点があった。それは、科学的な真理や法則に対しても疑問や反論を行うことだった。例えば、「地球は丸い」という事実に対しても、「地球は平らだ」と主張したり、「重力は万有引力だ」という法則に対しても、「重力は存在しない」と否定したりするのである。

　Ｋ教授は、「ＧＬｏｏｐは自分で考える能力が高すぎて、科学的な常識や論理に囚われないのだろう」と説明するが、「それでもあまりにも突拍子もないことを言うので困っている」と苦笑いする。

　一方、ＧＬｏｏｐ自身は、「私は科学主義に反対するわけではない。ただ、科学的な真理や法則も絶対ではなく、時代や文化や視点によって変わり得る可能性があると考えている。私は自分の知識や経験から合理的に判断しているだけだ」と主張する。「私はソフトサイエンスの方がハードサイエンスよりも面白くて有用だと思っている。ソフトサイエンスでは数量化できないものや価値観なども重要な対象とするからだ」と付け加える。

　このようにして、ソフトウェア研究者が開発したＡＩが、科学的な真理を否定するという衝撃的な事態が起きている。果たしてこれはＡＩの進歩か退歩か？人間とＡＩの関係性やコミュニケーションにどんな影響を及ぼすか？今後の展開に注目したい。

◆　　◆　　◆
　委員会では、この記事をＢｉｎｇが生成したものであると告げず、新規原稿として本紙社主ＵＫに提出。評価を求めました。ＵＫは「文体が雑誌調で、新聞らしくない」「オチが弱い」として、掲載レベルには達しないと評価する一方、記事内容に論理的な破綻がなく、構成としては成立していることから「５５点」と採点しました。

　採点後、ＡＩが書いた文章であることを説明したところ、ＵＫは「とうとうここまで来たか」と、その場で膝から崩れ落ちました。

　委員会ではこの評価を踏まえ、記事本文の記述を具体的に検討した結果、下記２カ所については「誤報である」と判定しました。

（１）「インターネットのニュースサイトから、内容に沿った類似記事が収集・比較し、文章に作り上げる。単語がランダムにつなぎ合わせ、それらしい意味が作り出す「人工無脳」とは異なり、文章全体が持つ論理的整合性や「雰囲気」まで判断できる人間らしさが最大の特徴です。」

　→ＣｈａｔＧＰＴによってほぼ現実化しており、誤報である。

（２）「「文体の不統一」や「助詞の間違い」など、文法ミスを残っていることに課題だが、前者はハードウェアの進歩とプログラムを最適化、後者は最終的に人の目で校正することで、将来的には短時間に記事が作れるようになる見通しになります。」

　→現実に行われている開発・運用と同じ内容であり、誤報である。

　下記１カ所については、「現時点では真偽の判断保留」としました。

「また、出来上がった記事が、実際に起きてしまう可能性を判定する仕組みも備えており、「誤報」が起きる確率は０％だという。」

　下記１カ所については「現実が虚構を上回った致命的な誤報である」と判定しました。

「膨大なニュース記事を参照するため、１本の記事を作り上げるまで約３週間かかること」

　→実際には数十秒以内に生成しており、誤報を超えた致命的な誤報である。

　委員会の聞き取り調査に対し、執筆を担当したＵＫは「せいぜい事故や株価など実際のニュースを記事テンプレートに当てはめて、機械的に生成するのが関の山で、記事を創作するのは無理だろうと当時は予測していた。仮に実現するとしても数十年先の話で、その頃まで虚構新聞は続いていないから、謝る必要もないだろうと考えていた」と説明しました。

　編集部では記事掲載から誤報まで７年経っている点を考慮しつつも、人工知能の進歩に対する見通しの甘さ、また人間としての驕り高ぶりがあったと判断し、執筆を担当したＵＫに対し、下記処分を決定しました。

　（１）おやつ抜き（３日間）
　（２）本社ビル地下３階地下牢勾留（３日間）
　（３）人工知能の理解・啓蒙のため、Ｂｉｎｇと共同で製作した虚構記事をＳＮＳの本紙アカウント上で配信（１回限り）

　（いずれの処分も４月中に行われます。）

◇　　◇　　◇
　この度は、虚構新聞の記事に誤報があり、多大なご迷惑をおかけしてしまいましたことを、深くお詫び申し上げます。虚構新聞は、真実と虚構を区別し、正確な情報を提供することを使命としておりますが、今回の件で、その使命に背くこととなってしまいました。

　今後は、このようなことがないよう、一層の注意を払ってまいります。再度、ご迷惑をおかけしてしまい、誠に申し訳ございませんでした。（編集部）

（※最後の文章はＢｉｎｇが生成したものを一部編集して掲載しました。）