適切な規制へ各国が準備開始

　◇適切な規制へ各国が準備開始／倫理・偏見のリスク注視

　深層学習の進歩によって人類がＡＩから享受できる恩恵が拡大する一方で、差別・プライバシー侵害に繋がりかねない闇の部分も顕在化してきた。学習データによって機能を獲得するＡＩは、学習データに偏見が入っていた場合、ＡＩモデルが偏見を持ってしまう危険性がある。そのため、ＡＩシステムを規制する動きが各国で出てきた。規制だけにとどまらず、倫理的な議論も起こりつつある。ＡＩにはどのような闇があるのかを具体的な事象でみていく。

　◇レベル分け罰則も

　深層学習が成果をあげる一方、出力結果の透明性・説明性が低いということで、２０１８年頃からＡＩに対する警鐘が鳴り始める。融資判定にＡＩが利用した学習データに、収入が少ない学生データが多くあり、応募学生の収入の大小に関係なく学生という属性だけで、融資をしないと判定するＡＩが問題になった。このバイアス（偏見）という現象は、学習データを正しく学習しないだけでなく、学習データにもともと偏見が入っているために発生する場合がある。また、ある写真分類をＡＩで行うサービスサイトで、写った人物を動物に誤認識し、人種差別問題として炎上。解決方法が見つからず、一時的にサービス停止に追い込まれた。

　こうした中、ＡＩには適切な規制が必要だという考えのもとに、各国が規制の準備をし始めた。日本はソフトローのガイドラインを中心に考えているが、欧州ではハードローのＡＩ規制法案を準備し、２０２４年頃の公布を目指している。この欧州ＡＩ規制法案は、ＡＩシステムを４レベルのリスクに分類し、規制を設けようとしている。

　最上位の“容認できないリスク”は、サブリミナルや、公的機関による人の格付け機能を禁止している。最下位の“最小リスク”と“限定リスク”は、迷惑メールフィルターやチャットボットなどで、“限定リスク”は利用を明示すれば良い。最上位から２番目の“ハイリスク”は、重要インフラを運用するＡＩシステムや遠隔による人物監視ＡＩシステムで、厳しいルールが設けられる予定である。

　違反した場合は、全世界売上高の６％もしくは３千万ユーロの高い方が課せられる。その他にも、ＡＩが大量殺戮兵器に使われたり、人のプライバシーを侵害したりする可能性から、倫理面からも議論が活発である。いくつかの大手企業ではコンプライアンスだけでなく、人権に関する倫理的なＡＩリテラシーを従業員全員が持つべきと考え、教育しようとしている。東芝もＡＩに対する姿勢を表明するステートメントは公表し、ＡＩリテラシーの教育に取り組んでいる。

　◇正しい「調教」とは

　前回紹介したＧＰＴは様々なタスクを実施できるが、人の質問に対して不適切な回答を出す場合もあり、倫理的な問題があると認識されていた。そのため、人と適切に対話できるように“調教”されたＣｈａｔＧＰＴが開発された。ＣｈａｔＧＰＴでは、人の質問に対して回答された文を人が点数付けし、どの回答が適切かを学ぶように、第３世代のＧＰＴ―３を“調教”したものである。

　ＣｈａｔＧＰＴの“調教”は正しくできていると思われるが、“調教”した人の偏見が入り込まないように注意を払う必要があった。ＣｈａｔＧＰＴの精度があがるとホワイトカラーの職を奪うと懸念されており、今後社会的な問題として議論される可能性がある。

◆用語解説

　◆ソフトロー／ハードロー　ソフトローは、法的拘束力はないが従うことが勧められる行動規範。ハードローは、罰則規定があり法的拘束力がある。

　◆サブリミナル　映像・音声などに意識されない短い画像・音を入れて潜在意識に働きかけること

　◆ＣｈａｔＧＰＴ　イーロン・マスクらによって設立されたＯｐｅｎＡＩが開発した大規模言語モデル（ＧＰＴ―３）をベースに、人と自然言語で対話できるＡＩ会話システム。倫理的な問題がない会話をするように調整されている。大規模言語モデルは少量の教師あり学習データで翻訳・要約・作文など様々なタスクを実現する。

　
電気新聞２０２３年４月１７日