「フェイクニュース」という言葉を最近耳にする機会が増え、
フェイクニュースだそりゃ
Web上に偽のニュースが出回る、あるいはメディアが嘘の情報や誤った情報を流す、そんなことがよく言われるようになった。
これを聞くと、「ああ、そんなウソみたいな情報に踊らされてたまるかよってんだ」と、鼻でフフンという感じだったが、「フェイクコメント」に関しては
ウソかどうか確かめようもNe-YO!!
と、多分みんな焦る、だろう、、
本日のIEEE spectrum記事によれば「マイクロソフトと中国のBeihang大学はニュース記事に人が反応して書いたようなコメントを自動で生成できるAIを研究し、論文投稿した」
というものだ。
プリンストン大学のアービンドナラヤナン氏曰く
「荒らし行為や政治的な偽情報を流すための技術を提示している」
と批判。
なぜ大きく取り上げられているか？
11/7に香港で開催予定の「自然言語処理」の研究上でトップ3に入る会議「EMNLP」に投稿した、マイクロソフトとBeihang大学の論文の内容が上記の内容で、倫理的に精査されたかどうかわからずに投稿を受理されたことが専門家たちの批判の的になっているってことだそうだ。
最近はSNSを政治的にも利用する（先のUSAの代表の方など）場面も増えてきており、上記のようなAIは国の体制をも左右しかねない事態になってしまう、と懸念されるのだろう。
マイクロソフト社の中国ベースのチャットボット「XiaoIce」は大変人気で、世界に6億6千万人の利用者がいるとのことだが、今回論文を書いたWei Wu氏はその主任応用科学者で、AIが性別や人種の偏見を学習する方法に関する研究についても言及しているとのこと。
「AIと倫理のエンジニアリングと研究」を行う「AETHER（エーテル）委員会」というのがあり、そのAI倫理のリーダー的地位を築いているマイクロソフト社にとって、この論争は非常に大きな意味を持っていそうだ。
「自然言語処理」ってなんだべ？？ってところからスタートするtensinhanだが、
「人間が日常的に使っている自然言語をコンピュータに処理させる一連の技術であり、人工知能と言語学の一分野である。」
ということで、人間の言葉をコンピュータに理解させたり、コンピュータがそれを逆に生成したりっていう技術っぽいですね。
情弱キラーな分野でワクワクしてくっぞ
コメント