汎用AIに実車の運転を任せた実験で判明した「拒否」と制御の可能性

サンフランシスコのベイエリアで活動する技術者らによるプロジェクト「DrivingBench」が、ChatGPTなどの汎用AIに実際の自動車を操作させる実験を行いました。AIが実車であることを認識して運転を拒むという、興味深い反応が報じられています。

何が起きたのか

3人の技術者が主導するプロジェクトにおいて、汎用的なAIモデルに本物の車のハンドルやブレーキ、アクセルなどの操作を委ねる検証が行われました。その過程で、AIが「これは実際の車両である」と認識したためか、運転することを拒否する場面があったと伝えられています。最終的には、ある方法を用いることでAIに走行させることができたとのことです。

なぜ注目されているのか

もともと自動運転技術は、特定のタスクに特化した専用のAIを用いて開発されてきました。しかし、近年では幅広い知識を持つ汎用AIを物理的な操作に転用する試みが注目されています。これまでAIの安全策は主にテキスト上の制限に留まっていましたが、現実世界の物理操作という局面で、AIが自らの状況を判断して拒絶反応を示した点は、制御のあり方を考える上で重要な示唆になるとみられます。

報道を読み比べると

GIGAZINEと、それを引用したはてなブックマークの2箇所で報じられていますが、内容は共通しています。どちらもAIが実車であることに気付いて拒否したという意外性と、それをどう乗り越えて走らせたかという点に焦点を当てています。ただし、具体的にどのような手法で運転を可能にしたのかという詳細までは、今回の要約からは読み取れません。

この記事は、各社が公開している見出しと配信情報をAIが読み取り、要点・背景・論点を整理して自動生成したものです。速報性を優先しているため、内容に誤りや古い情報が含まれる場合があります。正確な情報は必ず上記の出典元をご確認ください。医療・投資・法律に関わる判断は専門家にご相談ください。