OpenAIのChatGPT、NY公立学校で禁止 = 何が問題視？

昨年一般公開されたAIチャットボットChatGPTは、人間を模倣した高品質の文章を生成できることで話題を呼んでいる。

一方で、安全性や正確性への懸念から、同サービスの使用を制限する動きも出てきた。何が問題視されているのだろうか？ 

ChatGPTとは？

ChatGPTは、AIの研究・開発をおこなう企業OpenAIによって開発されたチャットボットだ。2022年11月30日に一般公開され、わずか1週間で100万人以上の利用があった。画像生成AIや動画生成AIなど、いわゆるジェネレーティブAI（Generative AI）の1つとして注目されている。

何ができる？

ChatGPTを使うと、チャット形式でAIと会話できる。ユーザーが質問を入力すると、ChatGPTは人間の発話や文体に似せた自然な文章を返す。一般的な知識やデータ、コードの書き方なども回答できる性能の高さから、将来的には「検索」で優位に立つGoogleを脅かす可能性も囁かれているほどだ。

話題のAIチャット・ChatGPT は、Google の脅威となるのか？

有料記事 / テクノロジー

仕組みは？

同サービスは、汎用性の高い言語モデルGPT-3をベースとし、人間のフィードバックによって訓練されている。学習の初期段階では、人間のトレーナーが「ユーザーとAIの会話」を演じ、インプットを行った。人間のフィードバックを取り入れたことにより、ChatGPTでは驚くほど自然な文章を作ることができる。

また今月10日には、MicrosoftがChatGPTを運営するOpenAIに対して、100億ドル（1.3兆円）もの追加投資を検討していると報じられており、テック業界の話題をさらっている。

ChatGPTをブロックする動き

ところが、ChatGPTをブロックする動きが広がっている。教育や研究の現場の一部では、少なくとも一時的なアクセス制限や使用の禁止が発表されている。

まず、各所でどのような決定がされているのか見ていこう。