はじめに

生成AI（Generative AI）という言葉をよく耳にするようになったのは、最近のことかもしれません。特に、2023年は「ChatGPT」の出現により話題性がより高まった年ではないかと思います。また、同年には「AI の安全性、社会的課題への AI 技術の推進」を目的としグーグル、マイクロソフト、OpenAI、Anthropic の4社が AI 業界団体「Frontier Model Forum（フロンティア・モデル・フォーラム）」を設立、国内では「GUGA（生成AI 活性普及協会)」などの団体が設立されました。このように、近年動きが活発化している生成AI ですが、同時に課題についても ITニュースを賑わせています。

今回は、何かと話題に上る生成AI とその利用において、考えられる課題について取り上げます。

まず、AI とは、Artificial Intelligence の略語であり、日本語では「人工知能」と訳されます。AI は1950年代から登場し、第一次人工知能ブームが始まりとされています。当時の主な技術はコンピューターによる探索や推論といった機能です。その後、「音声認識」、「天気予報」などの予測、将棋、オセロ、囲碁といった何手も先、多岐にわたって予測するようなもの、膨大なデータを「知識」として活用して答えを出せるようなサービスが登場しました。さらに技術の向上により、膨大なデータ（ビッグデータなど）を元に得られた複数解から最善の回答が出せるようになり、回答精度がより向上するようになりました。また、人工知能は膨大なデータおよび自ら回答した結果を知識として蓄え「学習」するようにもなりました。

例えば、「ディープラーニング」と呼ばれる機能は、音声や表情といった生体の経年変化を蓄積し、その蓄積した知識（データ）を自らさらに更新することで、将来の変化を予測することもできます。
今や AI の活用は多くの分野に渡り、例えば経済分野では、株価予測、マーケティング分析といった経済活動に取り入れたり、コールセンターなどで問い合わせから蓄積されたデータを活用し自動応答する機能、LINE など SMS では質問された文章に対して自動的に回答を提示するといった「AI チャットボット」といったサービスにも応用されています。

生成AIの利用

前述の通り、AI は多岐に渡って活用され、現在最もホットな話題のひとつであり、今後も発展する分野だと考えられていますが、AI に関する明確な定義はまだされていないようです。
人間の脳で行っているような作業をコンピューターが模倣し、入力された自然言語を理解したり、蓄積されたデータの活用により論理的に推測したり、経験に基づく学習を行ったりすることを目的とするプログラムを「AI 」と呼ぶのが一般的ですが、AI に明確な定義が存在するわけではありません。AI の研究者ごとに認識や解釈は異なっており（人工的につくられた人間のような知能、知能を持つメカ、人工的につくった知的な振る舞いをするためのもの、など）、未知の可能性を秘め、今後の発展が未知数であることから、定義が明確に定まらないのかもしれません。

変化を続けながら発展し続けている AI ですが、冒頭であげた通り、最近では「生成AI 」という言葉を耳にすることが多くなってきました。調べてみると様々な分野で利用される生成AI の技術ですが、特に次のような機能での活用が目立ちます。
同時に、発展している反面、生成AI を悪用したり、意図しない結果が大きく社会に影響を及ぼすことも指摘されるようになりました。

次に、生成AI の活用法とその課題やリスクについて述べていきます。

文章生成
ChatGPT の利用などが話題となっていますが、文章や言葉を投げかけると、回答も文章で返ってきます。また、プログラム開発の分野では実行したいこと、「こういうことを行いたい」といった結果のイメージを問いかけることで、プログラムや命令の例文が返ってきます。

画像生成、音声生成
画像や音声データを入力することで、自動的にノイズを除去したり、聞き取りにくい部分を補修するようなアプリケーションであったり、「きれいに」、「おしゃれに」もしくは「シーン」、「10年後」などキーワードを追加することで自動的に姿や音声を作成してくれるのもあります。

動画生成
画像や音声のデータ、文章生成機能の組み合わせで会話しているような動画、もしくはアニメなどのキャラクターと組み合わせてイメージしたキャラクターが自動的に動きと会話を行うような動画の作成が可能です。
生成AI を身近に活用できるようになることで、労働力不足の解消、新規事業への参入、開発の手助けなどが可能となりました。
例えば、絵画のモナリザを動かしたり、体の各部分にセンサーを取り付け、動きを撮影し、そして音声を記憶させ、分析し、キャラクターの動きや会話を生成したりすることができます。OpenAI から「Sora」という動画生成AI が発表されましたが、単に３次元の動画として動きを作成出来るだけではなく、物理世界でどの様に存在するのかについてもこの AI は理解するといいます。こういったものを人力で生み出すにはクリエイターの人力が必要となりますが、AI がこれを手助けするということが可能になります。

生成AIを利用する場合のリスクとして

生成AI は便利に活用できる反面、その利活用に対する責任とリスクが発生します。現在グローバルなルールが明確になっていない部分もあり、利用者のモラルやリスク対策も併せて行う必要があります。

例えば、動画の生成AI では「〇〇」さんの画像を使い、作られた文章（本人が発言していないとして）を用いて、発言しているかのごとく動画を生成し、インターネットで公開するといった事を考えたとします。ここでも入力するデータや結果に対して確認すべきポイントがいくつかあります。

・「〇〇」さんの画像を利用することへの許諾を得ているかどうか。
・利用するうえでのモラルは問題ないか。
・そのデータが独り歩きする可能性や悪用され問題にならないか。
・著作、肖像などの権利上の問題はないか。
・悪用され犯罪にも繋がる可能性はないか。

などです。

次に、リスクとされる４つの可能性について述べます。

● 偽情報（フェイク情報）が生成される可能性
生成AI が不正確な情報や偽の情報を作成する可能性があります。または、利用者により意図的に作成された情報を活用され、利害や他の人への不利益を与える状況が発生する可能性があります。
例えば、選挙の情報操作、首脳の発言など政治的な利用を目的とした動画を生成、事実でない噂を流し、多くの人を扇動するようなケースもあります。誘導的な発言で企業を陥れたり、株価操作、経済的な印象を意図的に与える行為のため虚偽の情報が流れるといった可能性も考えられます。

● 個人情報が漏洩する可能性
投入するデータそのもの、生成されたデータやコンテンツに個人情報が含まれる可能性があります。利用に許可が必要なデータである場合は許可を得ないまま利用することはもとより、それがネット上に流出することで情報漏洩のリスクに繋がらないか考慮する必要があります。

● 不適切なコンテンツが生成されている可能性
生成AI で作成された文章、動画、画像などが適切な表現であるかどうかチェックが必要です。内容が不公平、不平等、政治的、性的、人種などの問題に触れていないかどうか、利用者や結果が記載される人への不快感を与えないかどうか、また利用目的によって利用者側と生成AI 提供側の責任や保証が問題となる可能性があります。

● 法的責任
生成AI を使用して生成されたコンテンツが法的な問題を引き起こす可能性があります。特に、著作権やプライバシー法などの法的規制に違反していないかどうか確認する必要があります。

情報漏洩に関しては、入力したデータに個人情報や人物の写真、所属する組織の機密情報などが含まれないか確認する対策も必要です。
入力する文字や画像といった依頼から生成AI によって作り出された結果を利用するのは人です。完璧な生成AI は現在のところまだ存在しないため、その利用には上記のようなリスクや責任が生じることを念頭に置く必要があります。

まとめ

生成AI は生活や仕事をする上で便利に活用できる反面、生成AI 提供者によるチェック機能や国内、グローバルのルールが不十分となってる可能性があります。また、入力情報の漏洩、出力情報の不用意な利用にあたっては、漏洩によるセキュリティリスク、情報の正確性、コンプライアンスの問題、著作権、差別、法的、倫理的、偏見などを含む回答となっていないか確認が必要です。

 

※記載の製品名は、各社の商標または登録商標です。