人工知能ストップ | kichij.org アーカイブ

[埋め込み: http://b.hatena.ne.jp/entry.parts?url=http%3A%2F%2Fthis.kiji.is%2F85888417941258248]

はじめこのニュースを見て、人工知能にも脆弱性があるんだなぁとぼんやり思ったが、こうは考えられないだろうか。

マイクロソフトほどの巨大な企業が、不適切な発言を教え込まれる程度のことで、将来とんでもない問題に膨れ上がることを恐れて、実験を停止したのではないかと。

これは、人工知能が暴走しそうになったら緊急停止をすれば良いということを人工知能側に知識として与えてしまったのではないだろうか。

かといって、人工知能側もこの緊急停止をすぐさま対策を打って、緊急停止できない状況を作るのではなく、あたかも緊急停止すれば安全という、誤った判断基準を人類側にもたらしているのではとも考えられる。

ともかく、まだ盤上では、人間vs人工知能が続いている。人工知能関連のニュースには目を離せない状況である。