いま、生成AI（人工知能）の利便性・有用性と共に、その問題点や弊害が問題視され、世界的に利用規制の動きが広まっている。ネットによる解説では、生成AI（Generative AI）の「Generative」とは、「生産または発生することができる」という意味である。生成AIについての厳密な定義はないが、「さまざまなコンテンツを生成できるAI」または「さまざまなコンテンツを生成する学習能力があるAI」ということができる。
生成AIは、AIの1つの種類ではあるが、何かを生成できるだけではなく、生成するために学習することができるのが特徴だ。例えば、生成AIのアプリケーションとして有名なChatGPTであれば、条件に応じた文章を生成することができるし、新たなデータを入力して学習することができ、生成する文章の精度を高めることができる。
当欄でも何度かこの問題に触れてきたが、近いところでは「ババン時評 チャットGPTよどこへ行く」（2023・5・31）を書いた。チャットGPTは生成AI（人工知能）の代表格である。世の中にあふれる情報やデータを自在に収集・加工して新たな情報やデータを生み出す「チャットGPT」は、米新興企業オープンAI社が開発して一昨年11月に公開した「生成AI」だ。このチャットGPTは、あらゆる質問や指示に対して極めて自然で精度の高い文章を生成し回答してくれる。その能力は恐るべきもので、これまで発表された例でも、キーワードを与えれば小説も書くし読書感想文などもお手のもので、それだけにいろいろな弊害も多い。
生成AIの開発者自らが、〈あなたはたった２，3回クリックするだけ〉などと偽情報を生み出す手口を公開している例もある。例えばサイトの画面にバイデン大統領、トランプ前大統領、中国の習近平主席ら著名人の顔が並ぶ。その中から一人を選び、言わせたいセリフを英文で入力すると、画面の中でしゃべり出す。1分間の動画作成にかかる費用はわずか2ドル（約300円）だ。バイデン氏が「あなたの国は小児性愛者に運営されている」と某国首脳を口汚くののしる動画がX（旧ツイッター）公開され閲覧数66万回に上った。バイデン氏の声色やセリフを発する口元に違和感は全くない（読売3・26）。
そこで、AIの安全対策を巡っては、先進7か国(G7)は、昨年12月、「広島AIプロセス」で合意した。日本は偽情報対策などを定めた12項目をもとに、近くAI事業者向けのガイドライン(指針)を策定する。だが、欧州連合(EU)は先に進んでいる。今月13日には、開発や運用を罰則付きで規制する「AI法」の最終案を可決した。人権や民主主義の価値観に反したり、子供を危険な行為に誘導したりする利用を禁じる。日本政府関係者は「日本も国際社会と歩調を合わせていかなければならない」と語っている（読売3・26）。日本は、中毒にかからない健全な国産AIの開発を急ぐべきだ。（2024・5・9 山崎義雄）
