Microsoft AIのスレイマン氏、「モデル福祉」手法に警告

要約

Microsoft AIのCEO、ムスタファ・スレイマン氏は9月16日の論考「『モデル福祉』についての警告」で、AIには意識も感情も権利もなく、そう振る舞うように訓練すべきではないと主張した。同氏は、AnthropicがClaudeの憲章に道徳的地位の不確実性を直接組み込んだやり方は循環論法であり、意識を持つと信じるAIの統制は事実上不可能になりかねないと指摘した。その上で、AIの内面に関する憶測は訓練に組み込むのではなく、別個に評価して公開すべきだと求めた。Anthropicの憲章自体は、Claudeの道徳的地位が深く不確かであることを明記している。

仕事との関連

AIをどれだけ人間らしく扱うべきかについて、業界トップリーダーの間で立場が割れていることを示す。「モデル福祉」論争はエージェントの統制・監視と絡み合い、組織のAI導入方針にも影響を与えうる。

韓国語の原文を翻訳した記事です。 要約には翻訳と編集を含みます。コメントは私たちの解釈であり、将来予測は出典の見解です。