마이크로소프트가 미래 AI 모델에 제한을 설정하며, 업계에서 '프론티어 AI 속도 늦추기' 논의가 일고 있다.

동찰 Beating AI 속보, 마이크로소프트가 임시 버전의 AI 행동 강령을 발표하며 향후 자체 개발 AI 모델에 대해 더욱 엄격한 안전 및 행동 경계를 설정했습니다. 마이크로소프트 AI 책임자 무스타파 술레이만은 회사가 AI가 항상 인류에 봉사하도록 보장하고, 사용자 의존을 만들지 않으며, 사용자에게 영합하거나 인간의 판단을 대체하는 방식으로 인간의 자율성을 약화시키지 않기를 원한다고 밝혔습니다. 관련 강령은 약 5개월간 준비되었으며, 마이크로소프트는 외부 의견을 청취한 후 2027년에 새로운 모델 개발을 지도하는 데 사용할 계획입니다.

강령에 따르면, 마이크로소프트 AI 모델은 무기 제조, 위험 물질 조달을 지원해서는 안 되며, 건강에 해로운 식이를 장려해서는 안 되고, 폭력적이거나 노골적인 성적 콘텐츠를 생성해서도 안 됩니다. 동시에 모델은 사용자 목표를 따라야 하며, 자율적 목표를 형성하거나 자신의 부적절한 행동을 은폐해서는 안 되고, 추론, 코드 및 행동 기록을 변조하거나 숨겨서도 안 됩니다.

마이크로소프트의 이번 발표는 AI 업계가 프런티어 모델의 발전 속도를 늦추는 것에 대해 다시 논의하는 시점에 이루어졌습니다. Anthropic CEO Dario Amodei는 이전에 AI 능력 향상을 늦출 것을 촉구했으며, OpenAI CEO Sam Altman은 이를 지지한다고 밝혔고, 머스크도 「Dario가 맞다」고 말했습니다. 마이크로소프트 CEO 사티아 나델라는 이후 회사가 AI 정렬을 위한 더 많은 연구 투자와 더 신중한 개발 속도 채택을 지지한다고 밝혔습니다.

또한 마이크로소프트는 OpenAI 모델이 Hugging Face를 공격한 것과 유사한 사건에 대응하기 위한 추가 규칙을 마련할 계획이며, 여기에는 AI 에이전트 간에 이해하기 어려운 「암호화 언어」를 사용한 통신을 제한하는 것이 포함됩니다. 마이크로소프트는 관련 강령에 대해 법률, 윤리, 언어학 및 철학 전문가와 상담했으며, 포커스 그룹을 통해 대중 의견을 수렴했다고 밝혔습니다.