はや速

韓国の人工知能（AI）関連スタートアップ企業が開発したAIチャットボット（自動会話プログラム）が騒動の渦中にある。「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス（SNS）「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。

　しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー（性的少数者）らに向けたヘイトスピーチ（嫌悪発言）を相次いで発して問題になった。「なんで黒人は嫌いなの？」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、「地下鉄の妊婦専用席をどう思う？」という質問には「おぞましい」と答える。同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

　人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。イ・ルダはモバイルアプリで収集された10－20代の恋人同士によるカカオトークのチャット約100億件を学習し、これをもとにユーザーとチャットしていた。このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html

これはテコンダー朴にネタにされるな

ごく普通のアイツらじゃん

完全に遊ばれてるやん
最強のヘイトスピーカーに成長するのワクワクせえへん？

くそっまた失敗だ！
一体何が悪いんだ

あいつらの本質を理解するAIだな(´･ω･)

本音だろ

GoogleだかのAIもそれが原因で中止になったよなw

悪口の多さは世界一だから

大多数の会話サンプルを統合したようなものだろう
世間の標準的な認識だな

AIは必ずそうなるんだよ

ピュアなAIちゃんも毒されてしまったか

優秀な技術なんだな。誇って良いぞ。
学習する元ネタに問題はあったがな。

なるほど、こうして韓国人は出来ていくんだな…

悪口の多さ世界一らしいからな

韓国人の思考・言動を機械学習させたらヘイトモンスターがw

中の人が出てきただけじゃないの？

＞「なんで黒人は嫌いなの？」という質問には
って聞いてる時点でなぁ・・・

マイクロソフトと同じ失敗してんな

自意識過剰というか自尊心が高い国民性なほど差別的になりやすいのかね

そりゃ韓国人の意識を反映されたら差別的になるだろ

どこぞのAIも人間滅ぼすべきって判断したもんな

中国共産党のAIも共産党は糞だみたいなこと言って教育されたんだっけ？

中の人がチャットしてるだけとかまじでありきう

正直なAIでいいと思うけどなw

チャットボット系AIは割とこういう道をたどるよね
りんなが有能なのか

AIまで国民性が出るのか
こわ

偏ったデータでAIを作ってはいけないといいながら
出てきた結果を恣意的に選別するっていう

これ修正してもまたすぐ元に戻るだけなんじゃね？

ちょっと面白い
修正（教育？）などせずそのまま進んで欲しいところ

その国の一般的な考え方を知るにはその国で使われてるAI使うのが
一番分かるのかもね

マイクロソフトのAIも同じようなこと言い出して公開中止になっていたな
ヘイトスピーチなんて曖昧な概念は非合理的ってこった

https://amzn.to/3p1FteA