MOKUTO DIGITAL AI・テクノロジー業界を一次情報から批評的に分析

OpenAI、次世代AI「Astra」でサイバー攻撃能力の懸念浮上 開発体制を一時凍結へ

OpenAI、次世代AI「Astra」でサイバー攻撃能力の懸念浮上 開発体制を一時凍結へ

OpenAIは、次世代モデル「Astra」が自律的なサイバー攻撃能力において「クリティカル」レベルに達する可能性を認めた。これを受け、同社は開発プロセスの一部を一時停止し、厳格な安全基準と監視体制を導入する異例の措置を発表した。AIの進化がもたらす新たな脅威への対応が急務となっている。

続きを読む
Aug 09 04:41 JST TechCrunch AI techcrunch.com
Aug 08 19:24 JST NVIDIA Blog blogs.nvidia.com

OpenAI、次世代AI「Astra」でサイバー攻撃能力を懸念 開発体制を一時凍結し安全策を強化

OpenAIは次期モデル「Astra」が極めて高度なサイバー攻撃能力を有する可能性を認め、開発活動の一部を一時停止した。AIの進化が防御と攻撃の両面で劇的な変化をもたらす中、同社は自社の安全基準を再定義し、政府機関と連携した厳格な評価体制への移行を急いでいる。

OpenAI、次世代AI「Astra」でサイバー攻撃能力の懸念を表明 開発体制を大幅強化へ

OpenAIは開発中の次世代AIモデル「Astra」が、極めて高度なサイバー攻撃能力を有する可能性を認め、安全基準を大幅に引き上げた。AIの進化が防御だけでなく攻撃の脅威を加速させる中、同社の対応は今後のAI開発におけるセキュリティ標準を左右する重要な転換点となる。

医療DXの壁を突破せよ—Cohere Healthが挑むAIエージェントによる臨床ポリシーの構造化

Cohere HealthはAmazon Bedrock AgentCoreを活用し、医療現場の事前承認プロセスを自動化するセキュアなAIエージェント基盤を構築した。これにより、非構造化された臨床ポリシーの機械可読化を実現し、医療DXの新たな道を切り開く。機密性の高い医療データ環境でのAI運用モデルとして注目される。

AI家庭教師は「教えすぎ」か?AIの過剰介入を防ぐ新評価指標「TutorMoments」が浮き彫りにする教育の難題

アレンAI研究所(Ai2)が発表した「TutorMoments」は、AI家庭教師が学習者の自律性を阻害せずに適切な支援を行うための評価フレームワークである。AIが「親切な助手」として答えを教えすぎてしまう傾向を可視化し、教育現場におけるAI…

AI家庭教師は「教えすぎ」か、それとも「導き」か。AI2が提示した教育的判断の新たな評価基準

AI家庭教師が学習者の自律性を奪わず、適切なタイミングで介入するための評価フレームワーク「TutorMoments」が公開された。米アレン人工知能研究所(Ai2)が開発したこの基準は、AI特有の「過剰な親切心」を抑制し、教育的介入の質を定量…