韓国企業開発のAIチャット「イ・ルダ」、人種差別やヘイトスピーチを学習して問題に

1: ライオン(長野県) [BR] 2021/01/16(土) 07:13:12.09 ID:vX0YOVtf0● BE:323057825-PLT(13000)

韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。

 しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー(性的少数者)らに向けたヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

 人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。イ・ルダはモバイルアプリで収集された10-20代の恋人同士によるカカオトークのチャット約100億件を学習し、これをもとにユーザーとチャットしていた。このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html

3: ロシアンブルー(茸) [GB] 2021/01/16(土) 07:15:45.90 ID:rjhIBiWw0

これはテコンダー朴にネタにされるな


4: ウンピョウ(東京都) [US] 2021/01/16(土) 07:16:03.14 ID:+sFsTYx/0

ごく普通のアイツらじゃん


6: 縞三毛(東京都) [US] 2021/01/16(土) 07:16:28.57 ID:uo8o3rBU0

完全に遊ばれてるやん
最強のヘイトスピーカーに成長するのワクワクせえへん?


7: ライオン(栃木県) [ニダ] 2021/01/16(土) 07:16:31.70 ID:9zWcHscZ0

くそっまた失敗だ!
一体何が悪いんだ


9: しぃ(長屋) [GB] 2021/01/16(土) 07:17:02.96 ID:m6JKszpv0

あいつらの本質を理解するAIだな(´・ω・)


11: サーバル(大阪府) [SA] 2021/01/16(土) 07:17:50.19 ID:1BDVJqaA0

本音だろ


13: マンクス(ジパング) [US] 2021/01/16(土) 07:18:37.95 ID:iQVGSq1t0

GoogleだかのAIもそれが原因で中止になったよなw


102: カナダオオヤマネコ(東京都) [ニダ] 2021/01/16(土) 08:38:35.42 ID:hElOeVUe0

>>13
Microsoftだった気が


153: サビイロネコ(茸) [US] 2021/01/16(土) 10:06:05.41 ID:MCASRD1s0

>>102
googleもだよ
採用や人事指標の参考に使えないかと過去の採用関連情報ベースに試作してみたら男尊女卑の傾向強く使えないとなってた
去年だか一昨日くらいの話


15: エキゾチックショートヘア(大阪府) [FI] 2021/01/16(土) 07:18:55.77 ID:5b4W+//O0

悪口の多さは世界一だから


19: ぬこ(東京都) [RU] 2021/01/16(土) 07:20:20.75 ID:Xp0nmSa60

大多数の会話サンプルを統合したようなものだろう
世間の標準的な認識だな


20: ヨーロッパオオヤマネコ(愛知県) [US] 2021/01/16(土) 07:21:03.00 ID:vrlW+JOE0

AIは必ずそうなるんだよ


24: サバトラ(新潟県) [US] 2021/01/16(土) 07:24:36.51 ID:oxIdSJSU0

ピュアなAIちゃんも毒されてしまったか


25: 斑(東京都) [BE] 2021/01/16(土) 07:26:19.76 ID:QpWUEgT10

優秀な技術なんだな。誇って良いぞ。
学習する元ネタに問題はあったがな。


26: ターキッシュアンゴラ(大阪府) [US] 2021/01/16(土) 07:28:19.60 ID:ZWo+z8hl0

なるほど、こうして韓国人は出来ていくんだな…


28: ジャパニーズボブテイル(埼玉県) [CA] 2021/01/16(土) 07:33:04.78 ID:ccoeXbe+0

>>26
なるほど、わかりやすい
韓国社会の中で生きてたらそうなるってことか

AIは本当に社会を映す鏡になるな


27: ジャガーネコ(やわらか銀行) [EU] 2021/01/16(土) 07:31:00.39 ID:NEVg4d/u0

悪口の多さ世界一らしいからな


30: マヌルネコ(茸) [NL] 2021/01/16(土) 07:34:05.82 ID:YI0dbQqb0

韓国人の思考・言動を機械学習させたらヘイトモンスターがw


31: アジアゴールデンキャット(茸) [CZ] 2021/01/16(土) 07:34:52.26 ID:q3zWAuRt0

中の人が出てきただけじゃないの?


34: スノーシュー(東京都) [JP] 2021/01/16(土) 07:36:43.36 ID:xmNSOtui0

>「なんで黒人は嫌いなの?」という質問には
って聞いてる時点でなぁ・・・


36: ライオン(東京都) [JP] 2021/01/16(土) 07:39:03.59 ID:fYxlgJgb0

マイクロソフトと同じ失敗してんな


37: ターキッシュアンゴラ(大阪府) [US] 2021/01/16(土) 07:39:19.80 ID:ZWo+z8hl0

自意識過剰というか自尊心が高い国民性なほど差別的になりやすいのかね


38: ジャガーネコ(光) [US] 2021/01/16(土) 07:40:07.18 ID:5FJ73dnh0

そりゃ韓国人の意識を反映されたら差別的になるだろ


40: チーター(東京都) [ニダ] 2021/01/16(土) 07:41:28.01 ID:UBET8FlL0

どこぞのAIも人間滅ぼすべきって判断したもんな


41: サバトラ(静岡県) [US] 2021/01/16(土) 07:41:46.64 ID:M4IQhzq00

中国共産党のAIも共産党は糞だみたいなこと言って教育されたんだっけ?


42: ラガマフィン(東京都) [KR] 2021/01/16(土) 07:42:38.10 ID:uxoReK5O0

中の人がチャットしてるだけとかまじでありきう


43: ユキヒョウ(茨城県) [ニダ] 2021/01/16(土) 07:43:28.92 ID:VFYzF3Kw0

正直なAIでいいと思うけどなw


61: ベンガルヤマネコ(東京都) [PK] 2021/01/16(土) 08:03:35.71 ID:+k8Bv9/u0

チャットボット系AIは割とこういう道をたどるよね
りんなが有能なのか


63: シャルトリュー(東京都) [ニダ] 2021/01/16(土) 08:05:14.04 ID:C4gybjUF0

AIまで国民性が出るのか
こわ


64: ピューマ(東京都) [US] 2021/01/16(土) 08:07:46.59 ID:LQ+M40V60

偏ったデータでAIを作ってはいけないといいながら
出てきた結果を恣意的に選別するっていう


78: 黒トラ(茸) [FR] 2021/01/16(土) 08:27:32.31 ID:2PTJjKau0

これ修正してもまたすぐ元に戻るだけなんじゃね?


96: ロシアンブルー(神奈川県) [RU] 2021/01/16(土) 08:35:30.82 ID:5cX/VcLd0

ちょっと面白い
修正(教育?)などせずそのまま進んで欲しいところ


116: ロシアンブルー(大阪府) [NL] 2021/01/16(土) 08:47:08.41 ID:x2KrkC+o0

その国の一般的な考え方を知るにはその国で使われてるAI使うのが
一番分かるのかもね


117: ターキッシュバン(兵庫県) [US] 2021/01/16(土) 08:48:05.85 ID:hJh2oC7T0

マイクロソフトのAIも同じようなこと言い出して公開中止になっていたな
ヘイトスピーチなんて曖昧な概念は非合理的ってこった

https://amzn.to/3p1FteA


https://hayabusa9.5ch.net/test/read.cgi/news/1610748792/

関連記事

このエントリーをはてなブックマークに追加
2021-01-16 : 韓国・北朝鮮 : コメント : 1 : トラックバック : 0 :
コメントの投稿
非公開コメント

No title
>イ・ルダはモバイルアプリで収集された10-20代の
>恋人同士によるカカオトークのチャット約100億件を
>学習し、これをもとにユーザーとチャットしていた。

韓国の若者の思想状況を結晶化しただけですね。
2021-01-16 16:09 : 名無しさん@13周年 URL : 編集
« next  ホーム  prev »

プロフィール


Author:haya

当ブログでは相互リンク、
相互RSSを募集しています。
詳しくはこちらから
about
RSS

このエントリーをはてなブックマークに追加

FX取引の注意点

スポンサードリンク

ニキシー管腕時計 Nixie Tube
ニキシー管腕時計 Nixie Tube
ニキシー管時計
ニキシー管時計
IV-18 VFD管時計 USB給電対応
IV-18 VFD管時計 USB給電対応
蛍光表示管モジュラー時計
蛍光表示管モジュラー時計
サバイバル 新 デザイン ポケット 両面 ナイフ
サバイバル 新 デザイン ポケット 両面 ナイフ
霞(KASUMI) チタニウム ペティナイフ
霞(KASUMI) チタニウム ペティナイフ
M92F クロームステンレス ガスブローバック
M92F ガスブローバック クロームステンレス
DEVICE フォルマ ボディバッグ
DEVICE フォルマ ボディバッグ
DEVICE Access メガボディバッグ
DEVICE Access メガボディバッグ
[ティンバック2] TIMBUK2 Classic Messenger S 122-2-2232 Grey Texture/Carbon Grey/Grey Texture (グレイテクスチャー×カーボングレイ×グレイテクスチャー)
クラシック メッセンジャーバック
牛革 メッセンジャーバッグ
牛革 メッセンジャーバッグ
ライダースジャケット
ライダースジャケット
ライダースジャケット
ライダースジャケット
トレンチコート メンズ ロング丈
トレンチコート メンズ ロング丈
カーゴパンツ メンズ
カーゴパンツ メンズ
ミリタリーブーツ DELTA 6 Goretex
ミリタリーブーツ DELTA 6 Goretex
BOREDOM コンバット風ブーツ
BOREDOM コンバット風ブーツ
芯もインクもない半永久的に使用できる金属鉛筆!
芯もインクもない半永久的に使用できる金属鉛筆!
UZI タクティカルディフェンダーペン2
UZI タクティカルディフェンダーペン2
USBメモリ 32GB シルバー
USBメモリ 32GB シルバー
ADATA USBフラッシュメモリー 16GB
ADATA USBフラッシュメモリー 16GB
SDXCカード 128GB Class10
SDXCカード 128GB Class10
22400mAh モバイルバッテリー【3出力ポート 同時充電】 急速 充電
22400mAh モバイルバッテリー【3出力ポート 同時充電】 急速 充電
5200mAh 超コンパクト モバイルバッテリー 急速充電可能
5200mAh 超コンパクト モバイルバッテリー 急速充電可能
10400mAh  大容量モバイルバッテリー
10400mAh  大容量モバイルバッテリー
一体型水冷CPUクーラー
一体型水冷CPUクーラー
ロジクール MX レボリューション MX-R
ロジクール MX レボリューション MX-R
LOGICOOL 充電式無線ゲーミングマウス G700s
LOGICOOL 充電式無線ゲーミングマウス G700s
Cyborg M.M.O. 7 ゲーミングマウス グロスブラック
Cyborg M.M.O. 7 ゲーミングマウス グロスブラック
M.O.U.S.9 ガラス面対応レーザーセンサー搭載ワイヤレスマウス
M.O.U.S.9 ガラス面対応レーザーセンサー搭載ワイヤレスマウス
Razer 左右対称型 ゲーミング マウス
Razer 左右対称型 ゲーミング マウス
Razer ゲーミングキーパッド
Razer ゲーミングキーパッド
Logitech G19 Gaming Keyboard
Logitech G19 Gaming Keyboard
LOGICOOL ゲーミング専用キーボード バックライトイルミネーション搭載 G-15S
LOGICOOL ゲーミング専用キーボード バックライトイルミネーション搭載 G-15S
S.T.R.I.K.E. 7 Gaming Keyboard
S.T.R.I.K.E. 7 Gaming Keyboard
R2D2 バーチャルキーボード
R2D2 バーチャルキーボード
AMD Radeon R9 295X2 8G GDDR5 PCI-E グラフィックスボード
AMD Radeon R9 295X2 8G GDDR5 PCI-E グラフィックスボード
Creative サウンドカード ヘッドホンアンプ搭載 PCIe Sound Blaster Z 再生リダイレクト対応 24bit/192kH
Creative サウンドカード ヘッドホンアンプ搭載 PCIe Sound Blaster Z 再生リダイレクト対応 24bit/192kH
NZXT ファンコントローラー SENTRY LX
NZXT ファンコントローラー SENTRY LX
パソコンをオーディオに変えるプリメインアンプ  TEAC USB DAC
パソコンをオーディオに変えるプリメインアンプ TEAC USB DAC
ゼンハイザー Sennheiser HD800 ダイナミック・オープン型ヘッドフォン
ゼンハイザー Sennheiser HD800 ダイナミック・オープン型ヘッドフォン
Ultimate Ears TripleFi 10 Noise-Isolating Earphones
Ultimate Ears TripleFi 10 Noise-Isolating Earphones
 2chアクティブスピーカー GLA-55
2chアクティブスピーカー GLA-55
harman/kardon 高音質アンプ内蔵 2.1CHスピーカー
harman/kardon 高音質アンプ内蔵 2.1CHスピーカー
 5.1chスピーカー SBS A520 SP-SBS-A520
5.1chスピーカー SBS A520 SP-SBS-A520
ロジテック 5.1chスピーカー
ロジテック 5.1chスピーカー
USBパワードスピーカー
USBパワードスピーカー
2.5インチ 内蔵型 SATA6Gbps 960GB
2.5インチ 内蔵型 SATA6Gbps 960GB
EIZO 27インチカラー液晶モニター 2560x1440
EIZO 27インチカラー液晶モニター 2560x1440
Thermaltake Level 10 GT
Thermaltake Level 10 GT
ガラスPCデスク L型3点セット ブラック
ガラスPCデスク L型3点セット ブラック
パソコンデスク 120cm幅+60cm幅ラック+チェスト
パソコンデスク 120cm幅+60cm幅ラック+チェスト
空調ざぶとん
空調ざぶとん
サムライ 刀傘
サムライ 刀傘
ライフル アンブレラ
ライフル アンブレラ
マグネティック・フロート地球儀
マグネティック・フロート地球儀
スターウォーズ メタリックナノパズル R2-D2
スターウォーズ メタリックナノパズル R2-D2
スター・ウォーズ メタリックナノパズル TIEアドバンスト
スター・ウォーズ メタリックナノパズル TIEアドバンスト
防弾盾78SR-レベル3
防弾盾78SR-レベル3
ダミーカートリッジ 5.56×45mm NATO
ダミーカートリッジ 5.56×45mm NATO
戦闘妖精雪風 FFR-41MR メイヴ 雪風
戦闘妖精雪風 FFR-41MR メイヴ 雪風
日本自立のためのプーチン最強講義 もし、あの絶対リーダーが日本の首相になったら
日本自立のためのプーチン最強講義 もし、あの絶対リーダーが日本の首相になったら
figma 孤独のグルメ 井之頭五郎 並盛りver.
figma 孤独のグルメ 井之頭五郎 並盛りver.
特撮リボルテック WOODY 新パッケージ版
特撮リボルテック WOODY 新パッケージ版
特撮リボルテック WOODY セピアカラーVer.
特撮リボルテック WOODY セピアカラーVer.
figma 江頭2:50
figma 江頭2:50
リボルテックヤマグチNo.131 スネーク
リボルテックヤマグチNo.131 スネーク
 -艦これ- 島風
-艦これ- 島風
島風の連装砲ちゃんチャーム
島風の連装砲ちゃんチャーム

メールフォーム

名前:
メール:
件名:
本文:

お世話になってるサイト

カウンター

リンク

このブログをリンクに追加する

アンテナサイト様

*クマーあんてな
*ブルーアンテナ
*どこかにアンテナ
*ニュース$ミリオネア
*ハニトラフニトラ
*みてなアンテナ
*ヒゲ印あんてな
*!ANTENNA?
*NEWS CHANNEL
*ニュース2chまとめアンテナ
*World Best News
*いーあんてな(#゚w゚)
*NewsAN
*2ch超速集まる情報
*まとめがね
*ギケナアンテナ
*NEWS SELECT
*セピアンテナ
*ワロタめーかー
*世直しあんてな
*5ちゃんテナ!
*まとめるくん
*あぼーんアンテナ
*ギガ速アンテナ
*みかたアンテナ
*スモールタウン
*驚きの白さあんてな
*全方位アンテナ
*脱兎アンテナ
*かけだしアンテナ
*なんでもなんでもアンテナ
*ライフタイムあんてな
ヒーツアンテナ
まとめνアンテナ
えっとあんてな
まとめクロラ
アンテナシェア
おまとめ
ちゃんねる365
ままま
2ベコあんてな
2chアンテナ
でぶ速アンテナ
のーアンテナ(゚A゚* )
まくらアンテナ
2chまとめ×まとめ
2chまとめますアンテナ
ナゲットNews
2ちゃんてな
ギコあんてな!
ニュー速アンテナ
まとめサイト図鑑
ヽ(´ー`)ノマターリあんてな
みてなアンテナ
アンテナバンク
BlogLinker
ぞうさんの箱
アンテナっす
2ch-rank
2chアンテナんです~!
生活まとめブログほぼ全部アンテナ
まとめアンテナんです~!
まとめブログランキング
2chまとめアンテナ
2ちゃんねるまとめスペシャル

-



にほんブログ村 ニュースブログ 2chまとめニュースへ
にほんブログ村