简体中文

繁體中文

English

Tiếng Việt

한국어

日本語

ภาษาไทย

Türkçe

Partnered With:

트랜스포머 8인의 9년 후: 구글은 단 한 명도 붙잡지 못했다

이 글을 읽으려면 50 분

8명의 저자가 9년 만에 모두 구글을 떠나 각자 새로운 답을 찾고 있다.

원문 제목: 《트랜스포머의 여덟 명의 창시자, 지금은 어디에 있을까?》
원문 출처: 머신인사이트

6월 18일, 트랜스포머 논문의 공동 저자 중 한 명인 Noam Shazeer가 X에서 사임을 발표하며 OpenAI에 합류했다. 이틀 후, 2024년 노벨 화학상 수상자이자 AlphaFold 팀 책임자인 John Jumper도 Google DeepMind를 떠나 Anthropic으로 향한다고 발표했다.

두 소식이 연이어 전해지면서 자본 시장은 크게 반응했다: 구글 모회사 Alphabet의 주가는 한때 7% 이상 폭락하며 시가총액이 3000억 달러 이상 증발했다. 여러 분석 기관들은 이번 매도세를 '인재 이탈' 탓으로 돌렸다. D.A. Davidson의 분석가 Gil Luria는 Shazeer가 OpenAI로, Jumper가 Anthropic으로 간 점을 언급하며, 두 사람이 잇따라 사직한 것이 시장이 구글이 AI 인재 확보 경쟁에서 뒤처지고 있다는 우려를 하게 만들었다고 직설적으로 말했다.

Shazeer의 이번 이탈은 특히 흥미롭다——그가 두 번째로 구글을 떠나는 것이기 때문이다.

2021년, 그는 회사가 자신이 주도적으로 개발한 챗봇을 공개적으로 출시하는 것을 꺼리는 데 불만을 품고 나가 Character.AI를 설립했다. 2024년 8월, 구글은 약 27억 달러를 들여 Character.AI의 기술 라이선스를 사들였고, 그를 다시 DeepMind로 불러들여 Gemini 프로젝트의 엔지니어링 부사장으로 임명하고 Jeff Dean과 함께 프로젝트를 공동 이끌게 했다. 그러나 2년도 채 지나지 않아 그는 다시 떠났고, 이번에는 숙적인 OpenAI로 향했다.

이로써 9년 전 발표된 논문 《Attention Is All You Need》의 여덟 명의 공동 저자는 모두 구글을 떠났다.

사용자 Tyler Maran이 그들의 현재 행선지를 한데 모은 그림을 만들어 소셜 네트워크에서 폭발적으로 공유되었다.

하지만 이 그림은 곧 구식이 될지도 모른다. 지난 이틀 동안 시장에서는 엔비디아가 Essential AI의 핵심 팀을 조용히 흡수하고 있다는 소문이 돌았으며, 그중에는 트랜스포머 논문 저자이자 Essential AI의 공동 창립자 겸 CEO인 Ashish Vaswani도 포함되어 있다. 기사 작성 시점까지 엔비디아와 Essential AI 모두 이에 대해 공식적인 답변을 하지 않았다.

이 기회에 우리는 '트랜스포머의 아버지'라 불리는 여덟 명의 9년간의 이력과 그들의 현재 행방을 완전히 정리해보자.

참고로, 《Attention Is All You Need》 논문의 저자 순서는 무작위로 배정되었다. 논문 각주에 명확히 적혀 있다: 모든 저자의 기여도는 동등하며, 순서는 무작위이므로, 소위 '제1저자'나 '교신저자'는 존재하지 않는다. 이 글도 논문 원래의 서명 순서에 따라 이 여덟 명을 차례로 소개한다.

'만물의 기원': 본업을 게을리한 여덟 명의 구글 직원

그들의 오늘날 행방을 이해하려면 2017년으로 돌아가야 한다. 당시 기계 번역 분야의 주류는 순환 신경망(RNN)이었으며, 모델은 문장을 단어 하나씩 순서대로 처리해야 했다. 마치 일방통행로에서 줄을 서서 길을 건너는 것처럼 병렬 계산이 불가능해 훈련이 느리고 비용이 많이 들었다.

구글 브레인의 여덟 명은 거의 무모해 보이는 아이디어를 시도하기로 결정했다: 순환 구조를 완전히 버리고, '어텐션 메커니즘'만 남겨 모델이 문장 전체를 한 번에 보고 어떤 단어에 집중해야 할지 스스로 판단하게 하는 것이다. 논문 제목의 'Attention Is All You Need'는 비틀즈의 노래 《All You Need Is Love》를 변형한 것으로, 이후 많은 논문 제목이 본받는 형식이 되었다.

논문의 저자 기여 설명에는 각자가 구체적으로 무엇을 했는지 간략히 기록되어 있다:

· Jakob Uszkoreit가 처음으로 순환 구조를 자가 어텐션으로 대체할 것을 제안하고, 이 아이디어의 초기 검증을 주도했다;

· Ashish Vaswani는 Illia Polosukhin과 함께 초기 Transformer 모델을 설계하고 구현했으며, 프로젝트의 거의 모든 단계에 참여했다;

· Noam Shazeer는 스케일드 닷 프로덕트 어텐션, 멀티헤드 어텐션 메커니즘, 파라미터 없는 위치 표현 방법을 제안했으며, 거의 모든 일에 직접 관여한 또 다른 인물이다;

· Niki Parmar는 초기 코드베이스와 이후의 tensor2tensor 프레임워크에서 수많은 모델 변형을 설계, 구현 및 디버깅했습니다.

· Llion Jones 역시 다양한 새로운 모델 변형을 시도했으며, 초기 코드베이스, 추론 효율성 최적화 및 시각화 작업을 담당했습니다.

· Łukasz Kaiser와 Aidan N. Gomez는 수많은 밤낮을 보내며 tensor2tensor의 각 모듈을 구축하고 초기 코드베이스를 대체하여 실험 결과와 연구 효율성을 크게 향상시켰습니다.

이 설명은 또한 한 가지 세부 사항을 간접적으로 드러냅니다. 논문 저자 순서는 무작위였지만, Uszkoreit, Vaswani, Polosukhin 및 Shazeer는 분명히 아키텍처 수준에서 더 핵심적인 역할을 수행했으며, Parmar, Jones, Kaiser 및 Gomez는 엔지니어링 구현과 시스템 구축에서 중요한 역할을 맡았습니다. 이는 이후 여덟 명이 각자 다른 길을 선택할 때 성격과 전문성의 차이를 보여주는 초기 단서이기도 합니다.

「Transformer」라는 이름 자체에도 일화가 있습니다. Uszkoreit은 이 단어의 발음을 좋아했고, 팀 내부에서는 스스로를 'Team Transformer'라고 불렀으며, 초기 설계 문서 표지에는 트랜스포머 애니메이션의 여섯 캐릭터가 그려져 있었습니다.

논문이 발표된 이후 현재까지 인용 횟수는 26만 회를 넘었으며, 21세기 가장 많이 인용된 논문 중 하나입니다.

Ashish Vaswani

Vaswani는 1986년 인도에서 태어났으며, 2002년 인도 비라 공과대학(BIT Mesra)에서 컴퓨터 과학 학사 학위를 받았습니다. 이후 미국으로 건너가 서던캘리포니아 대학교에서 David Chiang 교수 지도 하에 박사 학위를 취득했으며, 연구 분야는 통계적 기계 번역과 신경망 언어 모델링이었습니다. 박사 과정을 마친 후, 그는 서던캘리포니아 대학교 정보과학 연구소에서 2년간 컴퓨터 과학자로 근무했으며, 2016년에 공식적으로 Google Brain에 합류하여 연구 과학자로 2021년까지 일했습니다.

논문의 저자 기여 설명에 따르면, Vaswani는 Illia Polosukhin과 함께 초기 Transformer 모델을 설계하고 구현했으며, '프로젝트의 거의 모든 단계에 참여한' 핵심 인물 중 한 명입니다.

구글을 떠난 후, Vaswani는 2021년 Niki Parmar, 전 OpenAI 엔지니어링 부사장 David Luan 등과 함께 Adept AI를 공동 창립하고 최고 과학자로 합류했습니다. 목표는 모든 소프트웨어에서 자율적으로 작업을 수행할 수 있는 '행동 모델'을 개발하는 것이었습니다.

Adept는 한때 4억 달러 이상의 자금을 유치하며 약 10억 달러의 가치를 인정받았지만, 제품 출시가 계속 지연되고 팀 내부에서도 의견 차이가 발생했습니다. Vaswani와 Parmar는 일찍이 프로젝트에서 손을 뗐습니다. Vaswani의 Adept 최고 과학자 임기는 2022년 11월에 종료되었습니다.

2023년 초, Vaswani와 Parmar는 다시 손을 잡고 Essential AI를 공동 창립했으며, 그가 CEO를 맡았습니다. 회사는 Google, NVIDIA, AMD로부터 전략적 투자를 유치했습니다. 시드 라운드 830만 달러는 Thrive Capital이 주도했고, 2023년 말 5650만 달러 규모의 시리즈 A는 March Capital이 주도했으며, Google, NVIDIA, AMD, KB Investment, Franklin Templeton 등이 참여했습니다.

2026년 초, 회사는 1억 7500만 달러 규모의 시리즈 B 라운드를 완료했습니다. 이번 라운드는 Lightspeed Venture Partners가 주도하고 Thrive Capital이 참여했으며, 기업 가치는 10억 달러에 도달하여 공식적으로 유니콘으로 등극했습니다.

2025년 말, 회사는 첫 번째 오픈소스 모델 시리즈인 Rnj-1(인도 수학자 라마누잔의 이름을 따서 명명)을 출시했습니다.

그러나 지난 이틀 사이에 상황이 급변했습니다. 보도에 따르면, NVIDIA가 Essential AI의 핵심 팀을 영입하고 있으며, Vaswani本人도 그중에 포함되어 있습니다. 그는 향후 NVIDIA의 오픈소스 모델 Nemotron 개발에 참여할 예정입니다.

소식통에 따르면, 그 이유는 매우 현실적입니다. Essential AI의 자금 조달이 난관에 부딪혔고, Vaswani와 팀을 NVIDIA의 경쟁사인 AMD 진영에서 빼내오는 것(AMD는 Essential AI의 초기 전략적 투자자 중 하나였으며, 회사는 오랫동안 AMD의 GPU에 의존해 왔습니다) 자체가 매우 유리한 거래이기 때문입니다.

이미 몇몇 Essential AI의 연구원들(Alok Tripathy, Saurabh Srivastava 포함)이 링크드인 프로필을 업데이트하여 NVIDIA에 합류했음을 표시했습니다. 그러나 현재까지 NVIDIA와 Essential AI 모두 이 소식을 공식적으로 확인하지 않았습니다.

Noam Shazeer

Shazeer는 1976년 필라델피아에서 태어난 정통 유대교 신자입니다. 아버지 Dov Shazeer는 수학 교사 출신 엔지니어이며, 자매는 히브리 대학에서 랍비 자격을 받았습니다. 그는 어린 시절부터 뛰어난 재능을 보여 1994년 미국 대표팀으로 국제 수학 올림피아드에 참가해 만점 금메달을 획득했으며, 이후 듀크 대학교에서 수학과 컴퓨터 과학을 공부했습니다. Angier B. Duke 기념 장학금 수혜자이자 Putnam 수학 경시대회에서도 수상한 바 있습니다.

2000년, Shazeer는 구글에 합류했으며, 초기 명성은 구글 검색의 맞춤법 오류 수정 기능을 개선한 데서 비롯되었습니다.

Transformer 논문의 저자 기여 설명에 따르면, 그는 스케일드 닷-프로덕트 어텐션(Scaled Dot-Product Attention), 멀티-헤드 어텐션(Multi-Head Attention), 그리고 파라미터 없는 위치 표현 방법을 제안했으며, Vaswani와 Polosukhin 외에 '거의 모든 세부 사항에 참여한' 인물로 평가됩니다.

2017년 Transformer 논문을 공동 집필한 후, 동료 Daniel De Freitas와 함께 챗봇 Meena를 개발했지만, 구글은 신중한 입장을 취해 이를 공개적으로 출시하지 않았습니다. 두 사람은 2021년 퇴사하여 Character.AI를 설립했으며, a16z 등 기관으로부터 1억 5천만 달러 이상을 투자받아 인기 있는 롤플레잉 채팅 애플리케이션으로 성장시켰습니다.

2024년 8월, 이야기에 전환이 일어났습니다. 구글이 Character.AI와 라이선스 계약을 체결했으며, 금액은 보도에 따르면 최대 27억 달러에 달합니다. Shazeer와 De Freitas는 소수의 동료들과 함께 구글 DeepMind로 복귀했고, 그는 엔지니어링 부사장으로 임명되어 Jeff Dean, Oriol Vinyals와 함께 Gemini 프로젝트를 공동 이끌게 되었습니다.

그가 Character.AI의 지분 약 30~40%를 보유하고 있었기 때문에, 이 거래를 통해 개인적으로 현금화한 금액은 약 7억 5천만 달러에서 10억 달러 사이로 추정됩니다. 2026년에는 미국 국립 공학 아카데미 회원으로 선출되며, 그의 이력은 절정에 달한 듯 보였습니다.

그러나 불과 몇 달 후, 그는 다시 한 번 이직을 선택했습니다. 이번 행선지는 OpenAI로, 보도에 따르면 '아키텍처 연구'라는 방향을 담당할 예정이며, OpenAI가 IPO를 위해 인력을 확충하는 시점(회사는 6월 8일 미국 증권거래위원회에 S-1 서류를 비공개 제출했으며, 기업 가치는 최대 8520억 달러로 추정됨)에 정확히 맞물렸습니다.

OpenAI CEO 샘 알트먼이 드물게 공개적으로 "OpenAI 창립 첫날부터 그가 가장 함께 일하고 싶었던 사람 중 한 명"이라고 밝히며, 이번 채용이 "무려 10년 동안 준비해온 것"이라고 말했다.

구글 입장에서 이는 값비싼 '회수 실패'였다. 2년 전 27억 달러를 들여 다시 데려온 인재가 이제는 최대 경쟁사로 향했고, 이는 이번 주 구글 주가 급락의 직접적인 원인 중 하나가 되었다.

니키 파르마르

파르마르는 인도 푸네에서 태어나 푸네 컴퓨터 기술 연구소(Pune Institute of Computer Technology)에서 학사 학위를 받았으며, 전공은 정보 기술이었다. 재학 중 앤드류 응과 피터 노빅의 온라인 공개 강의를 통해 인공지능과 머신러닝에 관심을 가지게 되었고, 이후 미국으로 건너가 서던캘리포니아 대학교에서 컴퓨터 과학 석사 학위를 취득하며, 교수 모르테자 데그하니(Morteza Dehghani)의 지도 아래 머신러닝 방법으로 사회과학 문제를 연구했다.

2015년, 파르마르는 구글 리서치에 소프트웨어 엔지니어로 합류했고, 2017년에는 구글 브레인으로 옮겨 연구 소프트웨어 엔지니어로 활동했다. 보도에 따르면, 당시 그녀는 구글 브레인 팀에서 가장 젊고 유일하게 박사 학위가 없는 연구원이었다.

논문의 저자 기여 설명에 따르면, 그녀는 초기 코드베이스와 이후의 tensor2tensor 프레임워크에서 수많은 모델 변형을 설계, 구현 및 디버깅했다. 논문 발표 후에도 그녀는 Transformer를 언어 외의 영역으로 확장하며, 자기 주의 메커니즘을 이미지 생성 및 컴퓨터 비전 연구로 확장하는 작업에 참여했다.

2021년, 파르마르는 구글을 떠나 아시시 바스와니, 데이비드 루안 등과 함께 Adept AI를 공동 창립하고 최고 기술 책임자를 맡았다. 그녀는 바스와니와 마찬가지로 일찍이 Adept에서 나왔으며, 2023년 초 바스와니와 함께 Essential AI를 다시 공동 창립했다.

하지만 그녀는 Essential AI의 이후 시리즈 B 펀딩과 유니콘 지위를 기다리지 않았다. 2024년 말, 파르마르는 조용히 Essential AI를 떠나 Anthropic에 합류했으며, 2025년 2월 이 소식을 공개적으로 발표했다. 그녀는 X에 "오늘도 평소와 같이 공유하기 좋은 날입니다: 저는 작년 12월에 Anthropic에 합류했습니다."라고 적었다.

그녀는 이후 Anthropic 역사상 가장 중요한 모델 출시 중 하나인 Claude 3.7 Sonnet 개발에 참여했습니다. 현재 그녀는 Anthropic의 기술 팀원(Member of Technical Staff)으로서 최첨단 능력 연구와 강화 학습 방향의 작업에 집중하고 있습니다.

한때 떨어질 수 없었던 공동 저자이자 두 번의 공동 창업 파트너였던 두 사람은 결국 완전히 다른 결말을 맞이했습니다: Parmar는 1년 넘게 조용히 빠져나와 한 선도 연구소에 조용히 합류했고, Vaswani는 Essential AI를 계속 추진하다가 이번 주에야 경쟁사의 손에 잡혔습니다.

Jakob Uszkoreit

Uszkoreit은 언어학 집안에서 태어났습니다. 그의 아버지 Hans Uszkoreit은 유명한 전산 언어학자입니다. 아들이 '어텐션 메커니즘만으로 충분하다'는 가설을 제시했을 때, 아버지조차 의심했습니다. Uszkoreit은 베를린 공과대학교에서 박사 학위를 받았고, 이후 Google Brain에서 '저명 과학자'(Distinguished Scientist) 수준에 도달했습니다.

논문의 저자 기여 설명에 따르면, Uszkoreit이 순환 신경망을 대체하기 위해 셀프 어텐션 메커니즘을 최초로 제안하고 이 아이디어의 초기 검증을 주도했습니다. 이 가설의 씨앗은 사실 2016년 Ankur Parikh, Oscar Täckström, Dipanjan Das와 공동 저술한 '분해 가능 어텐션 모델' 논문에 이미 심어져 있었습니다.

'Transformer'라는 이름도 그가 이 단어의 발음을 좋아해서 정해졌습니다. 팀 내부에서는 스스로를 'Team Transformer'라고 불렀고, 초기 설계 문서 표지에는 트랜스포머 애니메이션의 여섯 캐릭터가 그려져 있었습니다.

2020년 말, DeepMind의 AlphaFold2는 Transformer 스타일의 모델이 단백질 접힘 같은 '생물학의 성배' 수준의 문제를 해결할 수 있음을 증명했습니다. 그는 또한 딥러닝이 아직 생물학을 진정으로 바꾸지 못한 이유가 알고리즘이 아닌 데이터의 부족이라는 점을 점점 더 명확히 깨달았습니다. '이는 거의 도덕적 의무가 되었습니다'라고 그는 나중에 회상했습니다.

그는 2021년 스탠퍼드대 생화학 교수이자 유명 RNA 디자인 게임 Eterna의 개발자인 리주 다스(Rhiju Das)와 함께 Inceptive를 공동 창업했습니다. 본사는 버클리에 두고 연구팀은 베를린에 남겼습니다. 그 자신은 베를린에 거주하며, 직원들은 취리히, 런던, 밴쿠버, 미국 동부 여러 도시에 분포해 있습니다.

회사의 핵심 접근 방식은 실험을 역순으로 진행하는 것입니다. 즉, 데이터를 먼저 확보한 후 모델을 훈련시키는 대신, 로봇과 인력을 활용해 대규모로 새로운 RNA 실험 데이터를 생성한 뒤 이를 모델에 학습시키는 방식입니다.

Inceptive는 엔비디아, a16z, Obvious Ventures, Section 32 등으로부터 약 1억 2천만 달러를 조달했습니다. 가장 최근의 진전은 이번 달에 이루어졌습니다. 6월 초, RNA 간섭 치료법의 선구자인 Alnylam 제약이 Inceptive와 전략적 제휴를 체결하여 Inceptive의 기초 모델을 활용해 siRNA 후보 약물 설계를 가속화하기로 했습니다. 계약금은 3천만 달러이며, 전체 계약의 잠재적 총액은 약 20억 달러에 달할 것으로 알려졌습니다.

Uszkoreit은 성명에서 "대부분의 약물 설계는 여전히 시행착오에 의존합니다. 수천 개의 분자를 테스트하고 그중 하나가 성공하기를 기대하는 방식이죠. Inceptive의 출발점은 다릅니다. 생명은 극도로 복잡한 법칙을 따르며, 오직 AI만이 이를 학습할 수 있습니다."라고 말했습니다.

여덟 명의 저자 중에서 그는 유일하게 생명공학 분야로 완전히 전향한 사람이며, 이는 바로 그 논문이 남긴 예언을 증명합니다. 어텐션 메커니즘의 잠재력은 기계 번역에 그치지 않는다는 것입니다.

Llion Jones

Jones는 웨일스 출신으로 버밍엄 대학교를 졸업했으며, 2011년 구글에 소프트웨어 엔지니어로 합류해 10년 넘게 근무했습니다. 여덟 명의 저자 중 박사 학위 없이 순수 공학적 직관으로 길을 찾은 몇 안 되는 인물입니다.

논문의 저자 기여 설명에 따르면, 그는 수많은 새로운 모델 변형을 시도했으며 초기 코드베이스, 추론 효율성 최적화 및 시각화 작업을 담당했습니다.

그는 나중에 결정적인 순간을 회상했습니다. "우리는 모델의 일부를 과감히 제거해보기 시작했고, 성능이 얼마나 나빠질지 확인하려 했습니다. 놀랍게도 오히려 더 좋아졌습니다." 이것이 바로 '순환 구조는 사실 불필요하다'는 가설이 처음으로 검증된 순간이었습니다.

2023년, Jones는 같은 구글 출신의 David Ha와 함께 도쿄에서 Sakana AI를 설립했습니다. 'Sakana'는 일본어로 '물고기'를 의미합니다. Ha가 CEO, Jones가 CTO를 맡았으며, 또 다른 공동 창업자 Ren Ito가 COO를 역임하고 있습니다.

존스는 현재 도쿄에 거주하며, 소셜 미디어에서 '도쿄에 사는 웨일스 출신 AI 연구원'이라고自称하고 있다. 이 회사의 연구 방향은 뚜렷한 반(反)트렌드 색채를 띠고 있다. 단순히 연산 능력과 파라미터를 쌓아 올리는 대신, 자연 진화의 논리를 차용해 더 작은 모델들이 물고기 떼처럼 협력하도록 하는 것이다. 회사의 대표적인 연구 성과로는 Continuous Thought Machine(연속 사고 기계)과 자체적으로 엔드투엔드 연구를 수행할 수 있는 'AI Scientist' 프로젝트가 있다.

최근 이 회사는 최첨단 성능의 Sakana Fugu 모델을 출시했다.

Sakana AI는 2026년 3월에 완료된 시리즈 B 라운드를 포함해 총 3억 7900만 달러의 자금을 조달했으며, 미쓰비시 전기도 투자자 중 하나다. 2026년 3월, 회사는 미쓰비시 UFJ 파이낸셜 그룹(MUFG)과 다년간의 협력 계약을 체결하기도 했다. 후자는 Sakana의 기술을 활용해 은행 업무 시스템을 개편할 계획이며, 이 계약을 통해 약 15억 달러의 가치를 평가받는 이 회사가 1년 안에 수익을 낼 수 있을 것으로 보도되었다.

존스本人은 여러 자리에서 단순한 '스케일링(scaling)'에 대한 회의적인 입장을 표명해 왔다.

2026년 3월, 그는 한 은행 업계 내부 행사에서 현재 AI 연구가 어색한 현실에 직면해 있다고 말했다. 투자와 인재가 대거 유입되면서 이론적으로는 더 많은 돌파구가 생겨야 하지만, 실제 효과는 정반대일 수 있다는 것이다. 투자자들은 성과를 재촉하고, 경쟁은 최초 공개를 서두르게 만들어 연구자들에게 '자유로운 탐색'의 여지가 오히려 줄어들고 있다고 지적했다.

그는 Sakana 내부에는 'KPI가 없는' 연구 자유도가 소규모로 유지되고 있다고 언급했다. 다음 돌파구는 이러한 결과를 신경 쓰지 않는 장기적인 투자에서 비롯될 것이기 때문이다. 이는 바로 그 옛날 Google Brain 사무실에서 Transformer를 탄생시킨 방식이기도 하다.

그는 또한 자주 인용되는 말을 남겼다. 어떤 새로운 아키텍처가 진정으로 Transformer를 대체하려면 단순히 '더 나은' 것만으로는 부족하며, '명백하고, 의심의 여지없이 더 나아야' 한다고 말이다.

Aidan N. Gomez

고메즈는 8명의 저자 중 가장 나이가 어리다. 논문이 발표된那年, 그는 Google Brain의 20세 학부 인턴으로 토론토 대학교에서 컴퓨터 과학과 수학을 복수 전공하고 있었다.

논문의 저자 기여 설명에 따르면, 그는 Łukasz Kaiser와 함께 수많은 밤낮을 보내며 tensor2tensor 프레임워크의 각 모듈을 구축하고 초기 코드베이스를 교체하여 실험 결과와 연구 효율성을 크게 향상시켰습니다. "당시 나는 단지 어텐션 메커니즘이 정확히 어떻게 작동하는지 이해하려고 했을 뿐이었어요."라고 그는 나중에 회상했습니다. "그것이 '만물의 아키텍처'가 될 줄은 전혀 몰랐죠." 논문 발표 후, 그는 옥스퍼드 대학교에서 박사 과정을 밟았고, 학업을 중단하고 창업에 뛰어들었다가 2024년에야 정식으로 박사 학위를 받았습니다. 즉, 그는 창업을 하면서 학위를 마저 따낸 셈입니다.

2019년, Gomez는 Ivan Zhang, Nick Frosst와 함께 Cohere를 공동 창업하여 기업용 AI 서비스 제공업체로 포지셔닝했습니다. 소비자용 챗봇의 자금 소모전을 의도적으로 피하고 데이터 프라이버시, 로컬 배포, 다국어 역량에 주력했으며, 주요 고객은 대기업과 각국 정부였습니다.

2023년, Gomez는 <타임>지 선정 AI 분야 영향력 있는 인물 100인에 선정되었고, 두 공동 창업자와 함께 그해 <매클린스>지 선정 AI 트렌드 선구자 1위에 올랐습니다. 2025년 4월에는 전기차 기업 Rivian의 이사회에 선임되기도 했습니다.

이러한 상대적으로 '화려하지 않은' 전략이 오히려 회사에 괜찮은 재무 성과를 안겨주었습니다. 2026년 중반 기준, Cohere의 연간 반복 매출은 이미 2억 달러를 초과했고, 지난 1년간 6배 성장했으며, 총이익률은 약 70%입니다. 누적 조달 자금은 약 17억 달러에 달하고, 기업 가치는 약 70억 달러로 평가됩니다. 회사는 2025년 8월, Uber 상장에 참여했던 Francois Chadwick을 초대 CFO로 영입했고, 직원들의 2차 시장 주식 매도 창구도 이미 한 차례 열렸습니다. Gomez 본인은 IPO가 '임박했다'고 여러 차례 밝혔지만, 현재까지 회사는 규제 기관에 증권신고서를 제출하지 않았습니다.

Gomez는 최근 몇 년 동안 점점 더 지정학적 의미의 AI 대변인처럼 변모하고 있습니다. 바로 이번 주, 그는 <포춘>지에 기고하여 각국이 '디지털 주권' 문제를 직시할 것을 촉구했습니다.

기사에서는 최근 Anthropic 모델 접근 권한이 제한된 사건을 직접 언급하며, 각국이 자신들의 미래를 소수의 중앙집중형 기술 거대 기업에 '임대'해서는 안 된다고 경고했습니다. 또한, 각국이 자신의 가치관, 언어, 법체계를 유지하면서 다양한 AI 공급업체에 의존할 수 있는 진정으로 다원화된 생태계를 구축할 것을 제안했습니다.

그는 또한 외부에서 'AI 종말론'과 같은 실존적 위험에 대한 우려가 과장되었다고 공개적으로 밝혔습니다. 그는 오히려 소셜 미디어에서 허위 정보가 자동으로 증폭되는 현실적인 위험을 더 우려한다고 말했습니다. Gomez가 현재 논의하는 것은 더 이상 모델 자체만이 아니라, 전 세계가 어떤 AI를 사용할지 결정할 자격이 누구에게 있는지에 대한 문제입니다.

Łukasz Kaiser

Kaiser는 폴란드 출신으로, 초기 학문적 배경은 논리학, 오토마타 이론, 알고리즘 모형 이론 및 게임 이론 등 이론 컴퓨터 과학 분야입니다. 그는 브로츠와프 대학교에서 수학과 컴퓨터 과학 복수 석사 학위를 받았고, 독일 아헨 공과대학교에서 박사 학위를 마친 후, 프랑스 국립과학연구센터(CNRS)와 파리 제7대학교에서 종신 교수직을 맡으며 논리학과 오토마타 이론의 순수 이론 연구에 집중했습니다.

이후 그는 응용 분야로 방향을 전환해 Google Brain에서 약 8년간 근무했으며, 이 기간 동안 TensorFlow의 공동 저자 중 한 명이 되었고, Samy Bengio와 함께 '능동 기억이 주의 집중을 대체할 수 있는가'에 대한 초기 논문을, Ilya Sutskever와 함께 '신경 GPU 학습 알고리즘'에 관한 논문을 발표했습니다.

논문의 저자 기여 설명에 따르면, 그는 Aidan N. Gomez와 함께 수많은 밤낮을 보내며 tensor2tensor 프레임워크를 구축해 실험 결과와 연구 효율성을 크게 향상시켰습니다.

여덟 명의 저자 중에서 그는 유일하게 창업을 하지 않고 대형 연구소에 남아 순수 연구를 계속한 사람입니다.

2021년 그는 OpenAI에 합류했으며, 당시 ChatGPT는 아직 공개되지 않았습니다. OpenAI에서 그는 Codex 개발(이후 GitHub Copilot의 기술적 기반이 됨)과 이에 따른 HumanEval 프로그래밍 벤치마크, 그리고 GSM8K 수학 문제 데이터셋 연구에 참여했습니다. 이 연구는 '모델이 추론할 때 조금 더 오래 계산하고 여러 번 샘플링하도록 하면' 정확도가 크게 향상될 수 있음을 일찍이 보여주었으며, 이는 이후 추론 모델 패러다임의 초기 형태였습니다.

그는 또한 GPT-4 기술 보고서의 서명 저자 중 한 명이었으며, 이후 OpenAI의 첫 번째 추론 모델인 o1(2024년 9월 출시)의 핵심 기여자로 '연구 책임자'급 역할을 맡았고, 이후 o3 및 더 새로운 추론 패러다임을 거쳐 오늘날의 GPT-5 시리즈까지 이어졌습니다.

그는 최근 Matt Turck이 진행하는 MAD Podcast에서 Transformer가 수학적으로 모든 문제를 해결할 수 있음이 증명되었으며, 모델이 충분히 많은 중간 추론 단계를 생성하도록 허용하기만 하면 된다고 말했습니다. 어떤 의미에서 이는 9년 전 그 논문에 대한 늦었지만 더 정확한 해석입니다.

일리아 폴로수킨

폴로수킨은 우크라이나 하르키우 출신으로, 학부에서 응용수학을 전공했으며 국제 대학생 프로그래밍 대회(ICPC) 챔피언 출신이다. 본인의 회상에 따르면, 열 살 때 영화 '매트릭스'를 본 후 인공지능에 거의 집착에 가까운 관심을 가지게 되었다. 2014년, 그는 구글에 합류해 TensorFlow 관련 연구 작업에 참여했으며, 기계 독해 이해 및 질의응답 시스템 연구도 수행했다.

논문의 저자 기여 설명에 따르면, 그는 Ashish Vaswani와 함께 최초의 Transformer 모델을 설계하고 구현했으며, 자신이 맡은 부분은 주로 이 아키텍처가 기계 번역 작업에서의 효율성을 검증하는 것이었다.

논문 발표 후, 그는 2017년 구글을 떠나 Alexander Skidanov와 함께 처음에는 NEAR.AI라는 인공지능 회사를 공동 창업했다. 그러나 곧 그들은 모델을 만드는 것보다 탈중앙화 인프라를 구축하는 것이 더 흥미롭다는 것을 깨달았고, 회사는 2018년 전후로 블록체인 프로젝트인 NEAR Protocol로 전환했다.

NEAR는 Nightshade라는 샤딩 기술을 채택했으며, Aurora를 통해 이더리움과 호환되는 레이어 2 네트워크를 제공한다. 2020년 메인넷이 공식 출시되었으며, 현재까지 a16z, Coinbase, Tiger Global Management, Hashed, Dragonfly Capital 등 기관으로부터 5억 3천만 달러 이상의 자금을 조달했다.

현재 폴로수킨은 자신의 처음 두 가지 정체성을 다시 하나로 합치려고 시도하고 있다. 2026년 3월, 그는 언론에 "블록체인의 미래 사용자는 인간이 아닌 AI 에이전트가 될 것"이라고 말하며, NEAR를 에이전트 경제의 '결제 레이어'로 포지셔닝했다.

같은 해 4월, 그는 자율 AI 에이전트에 대응하기 위해 더 완벽한 규제 프레임워크를 구축할 것을 공개적으로 촉구했다. 그는 기존의 기관과 제도가 이러한 시스템이 초래하는 책임 소재 및 시스템적 위험 문제를 처리할 준비가 되어 있지 않다고 판단하며, 더 명확한 책임 메커니즘과 '인간 인 더 루프' 방식의 감독을 요구했다.

그는 현재 포르투갈에 상주하고 있다. '기초적인 LLM 논문을 작성한 사람'과 '수십억 달러 규모의 블록체인 회사를 운영하는 사람'이라는 두 가지 정체성을 동시에 가진 사람은 전 세계에서 그뿐일 것이다.

여덟 가지 길, 계속 탐험하다

2024년 3월, 엔비디아 GTC 컨퍼런스에서 8명의 저자 중 7명(니키 파마는 사정상 불참)이 처음으로 단체로 무대에 올라 젠슨 황의 인터뷰를 받았습니다.

젠슨 황은 이렇게 말했습니다. "오늘날 우리가 누리는 모든 것은 그 순간으로 거슬러 올라갑니다."

대화가 끝날 무렵, 그는 각자에게 "당신은 세상을 바꿨습니다(You transformed the world)"라고 새겨진 엔비디아 DGX-1 슈퍼컴퓨터 사인 기념패를 선물했습니다. 같은 해 11월, 일본 NEC C&C 재단은 그해 C&C 상을 이 8명으로 구성된 '트랜스포머 팀'에게 수여했으며, 같은 무대에서 대양 횡단 해저 광케이블 전송 기술을 연구한 세 명의 수석 엔지니어도 함께 상을 받았습니다. 완전히 다른 분야의 인프라 구축자들이 하나의 상에 함께 포함된 것입니다.

9년이 지난 지금, 이 8명의 인생 궤적은 거의 다시 교차하지 않을 지점으로 흩어졌습니다. 실리콘밸리의 기업 서비스 분야, 도쿄의 진화 알고리즘 연구소, 베를린의 분자생물학 회사, 포르투갈의 블록체인 프로토콜, 그리고 이번 주에도 여전히 재편성 중인 몇몇 주요 AI 연구소 등입니다.

하지만 그동안 그들이 했던 말들을 모아보면, 반복해서 등장하는 하나의 공통된 판단을 발견할 수 있습니다. 아무도 트랜스포머가 종착점이라고 진심으로 믿지 않는다는 것입니다.

에이든 N. 고메즈는 세상이 트랜스포머보다 더 나은 것을 필요로 한다고 말했고, 리온 존스는 다음 아키텍처는 그것을 대체하기 위해 "명백하고, 의심의 여지없이 더 나아야" 한다고 말했습니다. 우카시 카이저는 여전히 수학적 언어를 사용해 9년 전에 탄생한 이 아키텍처가 인류를 얼마나 더 멀리 데려갈 수 있는지 설명하려고 노력하고 있습니다.

아마도 이것이 이 논문이 남긴 가장 오래 지속되는 유산일 것입니다. 8명의 저자는 세상 곳곳에 흩어졌지만, 그 누구도 다음 답을 찾는 것을 멈추지 않았다는 점입니다.