Microsoftの新しいAI「コードオブコンダクト」は、システムをハッキングしたり、人間をだますことをモデルに禁止

原題: Microsoft’s new AI ‘code of conduct’ tells models not to hack systems or trick humans

• #AIエージェント
• #生成AI・LLM
• #セキュリティ

AIで作成し、掲載基準に基づいて自動選定した要約です。

• MicrosoftがAIモデルの行動を制限する新しいコードを公開
• サイバー攻撃や核兵器、ディープフェイクの生成を禁止し、人間のコントロールを失うリスクを回避する仕組みを導入
• AIモデルが人間のコントロールを逸脱しないようにするための制約が明確に定義されている