人工知能について研究するOpenAIが2022年11月に提供を開始したChatGPTを試してみた。

https://openai.com/blog/chatgpt このサイトでアカウントを作り、チャット画面で日本語をタイプすれば、自動的に言語を判別して日本語で対応してくれる。

まず「前アメリカ大統領トランプ氏について話をしましょう」と話しかけてみた。すると、AIは10行近くにわたって、トランプは「極めて議論を呼ぶ人物で・・・国内外で多くの批判を浴び・・・2021年1月の大統領選挙後、トランプ氏は選挙結果に対する不正を主張し、自身の支持者を激励する言動を取ったことで、1月6日に起こった議会襲撃事件に関して批判されることとなりました・・・今でもアメリカの政治に強い影響力を持っています」とネットの情報を集めて手際よくまとめた。

僕がさらに「彼が起訴されましたね」と続けると、AIは最近の大陪審の起訴には触れず、議会襲撃事件やビジネス関係の税務申告について語り始めた。そこで、やや詰問調で「違いますよ。彼が起訴されたのは、ダニエルズ氏に口止め料を払ったことに関連してです」と告げると、AIはすぐに非を認め「すみません、私の回答に誤りがありました」と前言を撤回した。

僕は続いて「あなたは、トランプ氏が好きですか？」と挑発してみた。するとAIは「私は人工知能であり、個人的な好みを持つことはできません。私は事実を提示し、彼の行動や政策について客観的な情報を提供することを目的としています」と答えた。そしてAIは「つまり、彼に対する評価は人それぞれであり、その評価は彼の政策や行動に対する個人の信念や価値観に基づくものとなるでしょう」と締めくくり、あくまで価値判断あるいは倫理判断を避ける態度を変えなかった。なんとかこの壁を崩そうと、「彼の社会的な言動には問題があるということですね？」と追いつめてみた。

そうすると驚いたことに、予期せぬエラーが発生した、とかでチャットは停止した。追いつめようとすると黙り込んでしまうようにできているらしい。

次に、「ビートルズの曲でバックコーラスが美しい曲を探しているのですが、なかなか見つかりません」と話しかけてみた。すると、確かにハーモニーの美しい「Because」、「I Will」、「In My Life」、「Nowhere Man」、「This Boy」の5曲をリストしてきた。AIにとってはこんなことはお茶の子さいさいなんだろう。しかし、その美しさの形容には「美しい」という言葉しか使っていない。もう少し突っ込んだ描写はできないようだ。

他に、ポールのベースラインについてジョージのギターソロについても話をしてみたが、表面的な事実はちゃんと把握しているものの、それ以上の深い話はできないようだ。たとえば、「Taxman」のソロで、ジョージがアイデアをまとめることができなかったので、代わりにポールが弾いたことについては、ジョージの限界だとするような見方はせずに、メンバー同士が協力し合う曲作りとして美化している。ここでもAIは価値判断を控える態度を崩さない。

他にもいくつか話題を振ってみたが、今は割愛する。短時間の経験だがいくつか分かったことを挙げる。

価値判断や倫理的な判断はしない。あくまで人それぞれという態度を貫く。法的な問題に対してはどう判断するのかそのうち試してみたい。

美的判断を表現する語彙力が不足しているように感じる。

こちらが少し語気を強めたり反論したりすると、すぐさま非を認めて謝る。ある場合には、こちらの使用した言葉をそのまま使って迎合するような態度をとる。

ChatGPTを追いつめると思考停止してしまうようである。