젠슨 황은 AI 속도 저하에 반대하면서도 제3자 감사를 통한 프런티어 연구소 지원을 지지한다

동찰 Beating AI 속보, 젠슨 황은 All-In 서밋에서 Anthropic CEO 다리오 아모데이가 주장한 프론티어 AI 개발 속도 늦추기에 반대했지만, 다리오가 제안한 한 가지 방법에는 동의했다. 독립적인 제3자가 프론티어 연구소에 들어가 안전 평가를 하되, 평가의 독립성이 훼손되지 않도록 여러 기관이 동시에 참여하는 것이 바람직하다는 것이다.

젠슨 황은 현재 가장 위험한 AI 안전 문제는 우선 프론티어 연구소에서 나타날 것이라고 본다. 이들 회사만이 모델 능력을 극한까지 끌어올릴 충분한 컴퓨팅 파워를 갖고 있기 때문이다. 그는 연구소들이 샌드박스, 모니터링, 평가를 먼저 잘 갖추고, 재무 감사와 유사한 외부 검사도 받아들여야 한다고 생각한다. 가장 강력한 AI를 보유한 이들 회사에는 더 높은 기준을 요구해야 한다는 것이다.

인터뷰 중반쯤, 트럼프가 갑자기 젠슨 황에게 전화를 걸었다. 젠슨 황은 바로 스피커폰을 켰다. 트럼프는 AI가 세상을 장악한다는 것은 "사기"라고 말했고, 젠슨 황은 그 자리에서 "맞습니다"라고 맞장구쳤다. 트럼프는 또한 "로봇이 세상을 장악하지 않을 것"이라며 "AI를 누가 이기느냐가 곧 이기는 것"이라고 말했다. 마지막으로 그는 젠슨 황에게 자신과 같은 생각인지 물었고, 젠슨 황은 "네, 대통령님"이라고 답했다.

젠슨 황은 트럼프와 마찬가지로 감속에 반대하고 AI 통제 불능의 종말론에도 동의하지 않지만, 프론티어 연구소에 외부 감사를 도입하는 문제에서는 다리오와 드물게 같은 입장에 섰다.