동찰 Beating AI 속보, 보안 회사 Calif가 OpenAI의 GPT-6 Cyber를 활용해 Java 저층에서 심각한 취약점 Java4Shell을 발견했다. 연구진은 취약점을 찾는 데 단 1시간이 걸렸고, 첫 번째 사용 가능한 공격 프로그램을 개발하는 데 2시간이 더 걸렸으며, AI Token 비용은 200달러 미만이었다고 밝혔다.
Java는 전 세계 포춘 500대 기업 중 약 90%가 사용하고 있으며, 은행, 정부, 병원 및 대형 인터넷 기업의 백엔드 시스템에서 광범위하게 운영되고 있다. Calif는 취약점 조건에 부합하는 환경에서 Keycloak, Jira, Confluence, Jenkins 등 기업용 소프트웨어가 원격으로 공격될 수 있음을 검증했으며, 그중 다수는 로그인 없이 가능하다. 특히 Keycloak은 기업의 신원 인증 및 로그인 관리를 담당하며, 한 번 공격당하면 이를 의존하는 다른 비즈니스 시스템도 위험에 빠질 수 있다. 《뉴욕타임스》는 공격 검증 자료를 입수한 후 1시간 이내에 독립적으로 공격을 재현했다.
취약점은 Java의 Base64 디코더에 숨어 있다. 이 기능은 로그인 자격 증명, 파일 업로드 및 네트워크 통신 데이터 처리에 널리 사용된다. 속도를 높이기 위해 Java는 저수준 어셈블리 코드를 사용하여 이러한 데이터를 처리하지만, 메모리 범위 초과 쓰기 취약점을 남겼다. 공격자는 특수하게 구성된 입력을 통해 다른 메모리를 덮어쓰고, 민감한 데이터를 탈취하거나 서버를 제어할 수 있다. Java는 원래 강력한 메모리 안전성으로 유명했지만, 이번에 문제가 된 것은 바로 일반적인 메모리 검사를 우회하는 저수준 가속 코드였다.
Calif는 지난달 AI를 활용해 PHP의 심각한 취약점을 발견했고, 이번에는 Java의 저층 결함을 찾아냈다. 공개 전에 팀은 미국, 영국 등 '파이브 아이즈' 회원국의 관련 정부 부처 및 구글, 마이크로소프트 등 기술 기업과 협력하여 수정을 진행했다. 미국 사이버보안 및 인프라 보안국(CISA)은 기업에 즉시 패치를 설치할 것을 요구했으며, 구글도 자사 서비스에 보호 조치와 수정 프로그램을 배포했음을 확인했다.
한국 대통령실 국가안보실은 11월 17일 정부, 군 및 금융 감독 부처를 소집해 긴급 회의를 개최했다. 한국 정부 통계에 따르면,该国 15,618개의 공공 정보 시스템 중 11,132개가 Java를 사용하고 있으며, 이는 71.28%에 해당한다. 관련 부처는 Java 사용 현황을 긴급 점검하고 보안 업데이트를 조율했다. Oracle은 같은 날 패치를 발표했다.
현재 공격에는 여전히 진입 장벽이 있으며, 특정 버전의 Java와 AVX-512 VBMI를 지원하는 프로세서가 필요하다. 소프트웨어마다 공격 방법을 별도로 개발해야 한다. 11월 17일 기준, Cisco 보안 팀은 아직 실제 공격 활동을 관찰하지 못했다.
Calif 팀은 이렇게 최고 보안 전문가가 AI를 지도해 취약점을 발굴하고 악용하는 방식을 「켄타우로스 해커」라고 부른다. CEO Thai Duong은 《뉴욕타임스》에 미래에는 AI가 가장 복잡한 사이버 공격을 독립적으로 수행할 수 있을 것이라고 밝혔다.
「우리에게 얼마나 시간이 남았는지 모르겠다. 어쩌면 3개월일 수도, 어쩌면 3년일 수도 있다. 하지만 현재 가장 강력한 해커는 켄타우로스 해커다.」
