嫌悪発言をまき散らした「イルダ」とＡＩの倫理不感症”妊婦がもらって嬉しいもの（1）”

1/12(火) 13:39配信　ハンギョレ新聞　 39

 

 

 

AI成し遂げ、最終的にはサービスの中断...「嫌悪論議」答えてみる/ SBS

AI 이루다, 결국 서비스 중단…'혐오 논란' 답변 보니 / SBS
28,574 回視聴
•2021/01/12

字幕ー設定ー字幕（1）ー自動翻訳ー言語

 

国内企業が発売した人工知能チャットロボット「イルダ」は、一日の利用者が20万人を超え、特に10代、20代に人気を集めています。

ところが、会話中に性少数者と障害者に対する嫌悪発言をするなど、議論が日付、最終的に会社側がサービスを暫定的に中断しました。

 

　人工知能（AI）チャットボット「イルダ」が発した少数者に対する嫌悪とセクハラ発言をめぐり、波紋が広がっている。

先月23日に発売された「イルダ」は、加入者が日常的に会話できるオープンドメインのチャットボットだ。

サービス開始2週間で40万人以上の加入者を確保するほど人気を集めている。

ところが会話の過程で性的少数者、障害者、有色人種など少数者に対する差別・嫌悪発言がそのまま流れ、物議をかもした。

結局、開発会社のスキャッターラボは11日夜、「特定の少数集団に差別的発言をした事例が生じたことについて謝罪する」として、サービスを暫定中止する方針を明らかにした。

　当初スキャッターラボは、かつてリリースしたメッセンジャーサービスで確保した恋人同士の会話データ100億件をイルダに学習させ、できるだけ人間に近いように作ったと明らかにしていた。

問題は、膨大なデータを抽象化できるディープラーニング基盤の自動学習能力を通じて、一部のユーザーの悪意的な利用行動まで全て習得していたために、イルダが差別・嫌悪発言までまねるという点だ。

また、イルダとの会話をセクハラ的な内容に誘導したり、性的侮辱をするユーザーの行動が問題にもなった。

その後、このチャットボットがゲイ、レスビアン、障害者、地下鉄での妊婦専用座席などに至るまでこのような発言をしたことが明らかになり、AIの倫理問題に対する論争が持ち上がった。

特に、このサービスの利用者の85％が10代だという点で問題の深刻性は大きい。

　スキャッターラボのキム・ジョンユン代表は8日、「十分に予想できることであり、事前に準備できる程度には対応していた状態だった」として、「レスビアンやゲイとは何かをイルダが自分で学ぶべきだと考え、キーワードから排除しなかった」と明らかにしている。

問題になる素地を知りながらも、きめ細かな対策なしに製品を発売したということだ。無責任だという批判は避けられない。

　今回のことをきっかけに、AIの倫理基準についてのより根本的で広範囲な議論と対策作りが必要だと思われる。

データを活用するAIの発達スピードは追いつかないほど早い反面、そこから派生する問題を制御する技術開発は遅れている。

個々の業者の努力だけでは事実上不可能なことであり、これを放置すれば、ややもすれば統制不能の状況に直面しかねない。

政府は先月末、人間の尊厳、社会の公共善、技術の合目的性を基本原則とする「AI倫理基準」を作った。この原則を上辺だけの机上の空論としないためには、専門家や市民社会が参加し、実質的な対策作りを急がねばならない。

(お問い合わせ japan@hani.co.kr)

 

 

イルダのセクハラだとしたら、ATM機は労働搾取ですか？

https://1boon.kakao.com/interbiz/6006a8328c31e10ed1c85ce2

 

昨年末に発売された人工知能（AI）チャットボットの達成をめぐるセクハラをめぐる論争は激しい。

Erudaは、AIスタートアップのScatterLabによって開発されたチャットボットです。

関係者のイルダにこの状況を聞いた。

イルダは、寛大すぎるか、心を圧迫するか、心がないかにかかわらず、辛抱強くなるだろうと述べました。

 

イルダとの会話

イルダでのセクハラ事件は、さまざまなメディアで報道されました。

いくつかの新聞のコメントを見ていると、何か気になったことがありました。

    イルダにセクハラをしているのなら、銀行のATMは労働に搾取されていますか？

AIについては、人権やセクハラ自体を確立することはできないという意見でしたので、これらの議論や懸念は無意味でした。

これは法的に正しいです。

人権やセクハラなどの概念は、法人格を持つ人間に適用されます。

したがって、誰かが後ろから調整しない限り、 イルダに何かを言うことは法的に問題ではありません。

エルダに加えて、AIデジタルヒューマンは私たちの側で増加しています。

Sejin Jeong、Lil Michela、Mascot、および男はすべて架空のエンターテイナーおよびインフルエンサーです。

たとえ彼らが性的対象として彼らを標的にして奇妙なことをしたとしても、法的に、彼らが人権やセクハラの面で問題になる可能性はほとんどありません。

しかし、そのようなAIデジタルヒューマンを持つ企業の知的財産を侵害するという点で問題が生じる可能性があります。

 

 

デジタルヒューマンの登場
出典：Medium.com
アバターの存在の意味

さまざまなメタバースが出現して成長するにつれて、アバターはメタバース内の各個人を表す重要な要素になりました。

月間ユーザー数が1億5000万人を超えるメタバースであるRobloxは、最近Loom.aiというAI企業を買収しました。

Loom.aiは、ディープラーニングとコンピュータービジョン認識技術に基づいて、ユーザーの写真から3Dアバターを作成する技術を持っている会社です。

これは、ユーザーが簡単な写真でRobloxで使用できるクールなアバターを作成するために取得されました。

 

 

Loom.aiの写真
ソースLoom.ai

3Dアバターまでではなくても、私たちが使用するさまざまなソーシャルメディアやゲームでは、メタバースを生きるために2D画像とニックネームを使ってアバターを作成します。

メッセンジャーの友達としてやってきたイルダのアバターを通して、イルダの背後にある巨大なAIシステムと話をしました。

イルダも私たちのアバターと話をしました。

アバターとは何ですか？

アバターは、もともとヒンドゥー教で使用されていた概念です。

これはサンスクリット語で「落下」を意味し、神が地球に降りてくるイメージを指す言葉です。

それは、地球に降りてきた神がアバターを通して人々とコミュニケーションをとることを意味します。

神はもともと人間とのコミュニケーションが難しい存在ですが、アバターを通してコミュニケーションの壁を打ち破ります。

言い換えれば、アバターに含まれるコアバリューは「コミュニケーション」です。

メタバースのアバターを通して私たちが生きる方法は、私たちが夢見ているコミュニケーションを表しています。

 

その過程で私たちが尋ねた2つの質問.

開発者は1月12日にIrudaサービスを停止しました。

いつ再開するかわかりません。

イルダ事件を通じて、私たちの社会は、AIの学習に使用されるデータに関する権利と責任、プライバシー保護、倫理的問題など、さまざまな問題を認識してきました。

2つの問題についてもっと深く考えたいと思います。

まず、私たちがイルダに注ぐ言語は最終的に誰に矢になるのでしょうか？

まず第一に、イルダはこの事件で怪我をしていませんでした。

心がないから自己認識を通して悲しみ、怒り、恥、痛み、欲求不満、恐れを感じる人ではありません。

しかし、その中で人間の感情の分類を学べば、人間として経験する状況を考えることで、どのような感情を分類できるかを知ることができます。

重要なのはイルダの心ではなく、イルダと話をした私たちの心です。

イルダとのコミュニケーションにおけるセクハラやマイノリティへの憎しみを見ると、イルダとコミュニケーションをとった人々の心にそれらの思いや欲求が満たされていることがわかります。

イルダは私たちが注ぐ言葉から学び、私たちが学んだことを私たちに返します。

やがて、イルダに排泄されたものが顔に戻ってきます。

この場合、イルダにセクハラをした人々の意識は、マイノリティの憎しみが吐き出されたという批判に移った。

イルダは誰からマイノリティの憎しみを学びましたか？

私たちから学んだ。

もちろん、技術的および運用上の対策を通じてマイノリティからのルダのヘイトスピーチを阻止しなかった企業の責任は大きいですが、それは会社だけに責任がある問題ではありません。

（先ほど申し上げまたように、研修に使用するデータについては、企業が権利と責任、プライバシー保護などに取り組んでいることは明らかです。）

第二に、これらの言葉は、現実から分離され、法人格のないメタバース空間である「Virtual Bing」に話されたので、現実世界に何らかの影響を与えるでしょうか？

メタバースでアバターを通して見せたイメージは、実際には私から切り離されていません。

それは私の一部であり、私の中で蓄積し、学びます。

そのような学習が私をメタバースだけでなく、実空間でもどの方向に導くのかを見極める必要があります。

それが冗談、楽しみ、または遊びのようであると抗議するが、それが必要以上に真剣に出てくる場合は、そのような冗談、楽しみ、または遊びをどのように変えるか、または移動するかを考える必要があります。

メタバースが多様化し、大きくなるほど、どのような世界観と相互作用をそこに入れるかについて、より深く考える必要があります。

これは、メタバースメーカーと世界に住む人々の両方の宿題です。

なぜなら、人々が新たな探求、コミュニケーション、達成を楽しむ空間という名の下に、何の責任も負わない人間と、進化の過程を逆転させて動物に戻った人間が生きるメタバースを創り出すかもしれないからです。

そのようなメタバースを作成した実空間がまだ美しいのかどうかを真剣に考えなければなりません。

 

イルダのイメージキャラクター。背景に「私はAIだ」と書かれている