最近、中国発AIチャットボット「ディープシーク」が、国際法でも認められる日本の国土「尖閣諸島」に対して、「中国の領土である」と主張したことが大きな話題となっています。
下記は、ディープシークが持つ主要な危険性とその被害を回避するための措置についてまとめたものです。
偏った情報の拡散
「尖閣諸島は中国の領土」という発言は、国際法と科学的な検証に基づくものではなく、中国政府の主張を都合良く解釈した情報です。中国側の偏った意見が中立的であるはずの人工知能から発信されたことは大きな問題です。
※他社AIと比較した際、不正解率は83%になるようです。
誤った情報の植え付け
基本的にAI利用者は、AI提供する情報を「正確で平等な情報」と信じ込みやすい状況にあります。
このため、ディープシークのような偏りのある情報は、利用者に間違った情報の植え付けを生むことにつながりかねません。中国発ということもあり、不信感が募ります。
意図された回答なのか？
中国発AIということもあり、ディープシークAIが参考にしている情報ソースが、Baiduやウェイボなどの中国国内のインターネット情報であり、それ故に誤りを回答している場合があります。
明らかにプロンプトでAIを操作しているということは、あまり考えたくないですね。
国際問題を悪化する可能性
このようなAIが、主に中国内で利用されるだけでなく、国際的に拡散された場合、国際問題を不安定化させる可能性があります。
日本と中国の関係を悪化したり、国際社会に影響を与える危険性を含んでいます。
低コストを理由に、すでにアメリカではブームを起こしており、誤った認識が広がっているかもしれません。。。
セキュリティリスク
中国製アプリの中には、過去にセキュリティ上の問題が指摘されたものがあります。
たとえば、ショッピングアプリ「Temu」では、マルウェアが仕込まれていたとの報道がありました。このような事例は、AIやアプリケーションが利用者のデバイスやデータを不正に利用する可能性を示しています。
「ディープシーク」においても、利用者の個人情報や会話データが不正に収集・使用されるリスクが懸念されます。
危険を回避するためにできること
- 情報の識別能力を高める
- 利用者は、AIから提供される情報が必ずしも正確ではないことを理解し、主観的に情報の検証を行う能力を養う必要があります。
- 信ぴょう性の高いAIの利用を優先する
- 国際社会で知名度があり、これまで問題を起こしていないAIを利用しましょう。（chatGPTやGeminiなど）
- 国内での情報学習の促進
- 専門家や教育機関が、AIに依存せず、資料の正確性を判断するための方法を教えることが必要です。
「ディープシーク」の危険性は、中国に限った問題ではなく、他の国でも起こり得ます。
これに対策するためには、利用者自身が情報を選別し、どのような背景でその情報が伝えられたのかを常に考える必要がありますね。
