편집자 주: Anthropic이 상장하여 기업가치 1조 5천억 달러, 한때 2조 달러에 가까운 시가총액을 달성했다. 모두가 SBF가 당시 극히 작은 시가총액으로 Anthropic에 투자했던 것을 다시 떠올린다. 지금까지 보유했다면 약 400억 달러에 달했겠지만, 안타깝게도 이미 매각되었다.
14세 소년 Eli Goldfine이 SBF의 어머니와 연락하여 수감 중인 SBF와 통화를 했다. 이는 내가 지금까지 본 FTX 폭락, SBF 수감 이후 최고의 인터뷰로, SBF의 Anthropic 투자 회고와 AI에 대한 관점뿐만 아니라 FTX가 2020년에 이미 했지만 지금은 모두가 화제로 삼는 분야들, 그리고 그가 이 화제 분야들에 대해 현재 갖는 견해도 다루었다.
· AI가 인류 멸종이나 문명 파괴를 초래할 확률로 그가 제시한 것은 25%다: 처음에는 「50% 미만, 10% 초과」라고 했으나 최종적으로 25% 정도로 귀결되었다; 만약 「마인드 업로딩이 재앙인지 여부」 같은 기준으로 구분하면 범위는 20%–60%로 확대된다.
· 향후 5–10년 내 AI는 대부분의 중요한 과업에서 인간을 달성하거나 초과할 것이며, 「AI가 세계의 대부분을 운영」하는 것과는 한 걸음 차이지만, 과정은 모호하고 점진적일 것이며 「딱」 넘어가는 그 해는 없을 것이다.
· 충격은 업종에 떨어지며, 한 업종씩 차례로 선을 넘는다: 소프트웨어 개발, 수학은 이미 발생하고 있으며, 다음에는 더 많은 영역으로 확산될 것이다; 세계 전체가 뒤집히지는 않지만 국소적으로는 격변이 일어날 것이다.
· 진짜 문제는 「감속할 것인가」가 아니라 「모두가 함께 감속할 수 있는가」다: 안전을 전혀 신경 쓰지 않는 플레이어가 하나라도 있으면, 일방적 감속은 경쟁을 바닥까지 추락하는 경쟁으로 바꿀 뿐이다.
· 정렬에는 단일한 고차원적 답이 없고, 악마는 모두 세부에 있다: 대량의 테스트, 대량의 디버깅, 대량의 신중함, 그리고 모델이 결국 agent로 사용될 것이라고 가정해야 한다.
· Anthropic은 만억 달러 규모, 상위 2위의 AI 기업이다: 향후 10년 AI는 핵심 산업이 되어 누적 시가총액이 수십조에서 심지어 수백만억 달러에 달할 수 있으며, 이 체급을 담을 수 있는 기업은 손에 꼽을 정도다.
· 당시 5억 달러만 투자한 것은 그만큼의 자금만 필요했기 때문이다: 이는 회사가 지분을 더 팔고 싶어 하지 않고 필요에 따라 자금을 조달한 결과이지, 그가 판단을 잘못한 것이 아니다.
· 현재의 alpha는 「누가 AI 스토리를 가졌는가」가 아니라 누가 진짜 AI 기업인지 구분하는 데 있다; 또한 브랜드는 기술보다 해자를 더 잘 지킬 수 있다 (Coinbase, Robinhood가 수백억 달러의 가치를 지니는 것은 이름 덕분이다).
· 그 '51%는 두 배, 49%는 파멸'의 동전 던지기 게임에서, 추상적인 차원에서는 그는 베팅하겠지만 현실 세계에서는 결코 베팅하지 않는다: 파멸은 영구적이고, 성장은 남들도 언젠가 이룰 수 있기 때문이다.
· "Future Fund에서 한 그 좋은 일들을 보면, FTX의 부상부터 붕괴까지 이 전체 구간이 가치 있었느냐"는 질문에 그의 대답은 '아니오'였다: 그는 그것이 가치 있었다고 믿고 싶지만, 솔직히 그렇다고 말할 수는 없다; 만약 결국 망치지 않았다면 가치 있었을 것이다—그는 또한 사람들이 교훈을 얻었다고 생각하지 않는데, 위기 속에서 사람들은 진정으로 중요한 것에 대한 판단을 잃기 쉽기 때문이다.
나는 그들이 엄청난 가치가 있다고 생각한다.
가장 큰 산업들, 우리 경제의 일부를 실제로 이끄는 산업들을 보면, 그들의 시가총액은 수조에서 수십조 달러다. 앞으로 10년 안에 AI가 그 핵심 산업 중 하나, 아니 심지어 그중 가장 주요한 하나가 되지 않을 이유는 없다.
그래서 만약 AI 기업들의 총 시가총액이 결국 수십조, 심지어 수백조 달러에 이를 것으로 예상한다면, 그 돈은 어떻게 나뉠까? 아마 3분의 2는 아직 존재하지 않는 기업들에게 남겨둘 것이다. 그렇게 계산해도 적어도 10조 달러는 기존 기업들에게 남는다. 그리고 그 규모를 지탱할 수 있는 기업은 그리 많지 않다. OpenAI가 있고, Anthropic이 있고, Google과 그 산하의 여러 연구소들, 아마 DeepMind, xAI도 있을 것이다. 진정한 핵심 플레이어는 한 손으로 꼽을 수 있다. 이는 기본적으로 가장 앞선 두세 곳이 각각 최소 수조 달러의 가치가 있다는 것을 의미한다.
그리고 나는 Anthropic이 1위가 아니더라도 분명 최상위 그룹에 속한다고 본다.
하나는 현재 모델의 능력, 현재 제품이 얼마나 유용한지를 봐야 하는데, 그것들과 OpenAI는 이 점에서 분명히 계속 주고받고 있다. Anthropic의 대중 소비자용 제품은 많은 긍정적 피드백을 받았고, 이것이 심지어 가장 독특한 제품이 아닐 수도 있다. 그들의 AI 소프트웨어 개발 도구는 세계 최고이며, 그것은 또 다른 거대한 영역이다. 그래서 적어도 오늘날만 놓고 보면, 그것을 상위 두 곳에 포함시켜야 한다.
좋은 질문이다. 우선 앞으로 몇 년간은 언제든 터무니없는 일이 튀어나올 수 있다. 이것은 나의 중위 시나리오 추론일 뿐이며, 언제든 벗어날 수 있다.
하지만 지금까지 우리가 본 것은: AI는 오랫동안 세상에 거의 영향을 미치지 못했어요. 능력이 몇 번이고 두 배로 늘어났음에도 불구하고요. 왜냐하면 아직 '인간보다 못한' 단계에 있었고, 인간보다 못한 정도가 너무 심해서 사람을 쓰는 게 여전히 AI를 쓰는 것보다 경제적으로 더 나았거든요. 그러다 최근 몇 년 사이에 점점 더 많은 곳에서 그 선을 넘기 시작했고, 세상에 영향을 미치기 시작했어요.
아직 세상을 완전히 바꿔놓지는 못했어요. 하지만 핵심 산업들이 차례로 그 임계점 아래로 떨어지면서, AI가 어느 분야에서 갑자기 인간보다 훨씬 효율적으로 산출하기 시작하면, 그 분야에서 상당히 빠른 폭발이 일어나는 걸 보게 될 거예요. 그래서 앞으로 1~2년 안에, 아마 몇몇 분야, 어쩌면 상당히 중요한 분야들이 수학과 소프트웨어 개발이 걸었던 그 길을 걸을 것 같아요: 최전선의 작업은 실제로 대부분 AI 모델이 하게 되는 거죠. 세상 전체가 뒤집히지는 않지만, 어떤 곳에서는 눈에 띄는 변화가 시작되는 걸 보게 될 거예요.
문제는 많아요. 잠깐 한 걸음 물러서서 말해볼게요. 하나는: 뭔가 혼란스럽거나 재앙적으로 잘못될 일이 있을까? 가장 명백한 예는 통제를 벗어난 AI가 무기 같은 것에 접촉하는 경우예요. 예를 들어 어떤 핵 강국에 대한 위협을 탐지하는 데 쓰이는 AI 시스템이 통제를 벗어나서 한 번에 수천 발의 탄도미사일을 발사하는 거죠. 이런 상황 중 하나인데, 향후 10년 안에 일어날 확률은 낮다고 보지만 0은 아니에요, 일어날 수도 있어요.
종말론적 시나리오는 일단 옆으로 치워두고, 향후 10년 우리는 갑자기 대부분의 직업에서 인간이 필요 없게 되는 세상에 있을지도 몰라요. 단기적으로 세상의 변화가 그렇게 크지 않더라도, 이것은 사회의 문화를 근본적으로 왜곡할 거예요. 그 영향은 엄청나죠, 더 이상 일로 자신을 정의하지 않게 된다면요. 그리고 어떤 산업의 산출물이 점점 인간이 이해하기 어려워지기 시작하면 무슨 일이 일어날까요? 그건 AI가 조용히 인수를 완료한 건가요? 그 AI들은 인간을 어떻게 볼까요?
이 질문들에 향후 10년 안에 답이 나올지 모르겠어요. 하지만 아주 가능성이 높다고 생각해요, 그것들이 한꺼번에, 아니면 적어도 연달아 튀어나올 거라고요. 그리고 여러 면에서, 인간이 자신의 미래의 중심 결정자로서 갖는 지위는 그때쯤이면 이미 벽에 쓰여 있을 거예요.
여기서 많은 공은 제 것이 아니에요. 많은 중요한 말은 다른 사람들이 쓴 것이고, 저는 상당 부분 그저 강조하거나 그들이 말한 것을 다시 전달했을 뿐이에요.
하지만 몇 가지 사고방식이 있어요. 하나는: 2020년쯤 AI가 무엇을 해냈는지 보는 거예요. 답은, 대부분의 분야에서 아무것도 못 했다는 거죠. 대부분의 분야에서 AI를 써보면 좀 멍청할 거예요. 10년 전에 비하면 확실히 인상적일 정도로 좋아졌지만, 여전히 완전히 쓸모없어요. 하지만 소수의 일들, 그것이 특별히 훈련된 일들에서는 이미 인간을 넘어섰어요. 대부분의 체스, 국제象棋나 바둑 같은 것들이요; 비디오 게임 같은 더 복잡한 분야에서도 나타나기 시작했어요.
AI가 영원히 체스만 잘한다면, 큰돈을 벌 수도 없고 사회 질서를 뒤집을 수도 없으며 미래를 많이 바꾸지도 못할 것이다. 하지만 체스가 AI가 할 수 있는 전부라고 생각할 이유는 없다. 그것은 아주 작은 시작점에서 지수적으로 성장해 왔고, 몇 번 더 두 배가 되지 않아도 사회의 핵심 영역에서 인간을 추월하기 시작할 것이다.
좋은 질문이다. 답은 기본적으로: 회사를 창업하고 자금을 조달할 때, 보통 무한히 많은 돈을 유치하고 싶지는 않다. 재무 예측이 있고, 사업을 일으키는 데 얼마가 필요한지 대략 알기 때문에 그 비율 이상으로 회사 지분을 팔고 싶지 않다.
Anthropic은 당시 그 위치에 있었다. 계산상 모델을 만드는 데 약 5억 달러의 컴퓨팅 비용이 필요했고, 그래서 그만큼을 조달했다. 우리는 기본적으로 그들이 그 라운드에서 조달하려던 돈을 전부 투자했다.
아마 그렇게 했어야 했을지도 모른다. 내 추측으로는 일부 이유는 필요 이상으로 지분을 팔고 싶지 않았기 때문이다. 하지만 또 다른 이유는, 많은 회사가 사실 자신의 성공과 현금흐름, 보유 현금에 발목이 잡혀 무너진다는 점이다. 역사적으로 많은 회사가 큰돈을 조달한 뒤 광고에 전부 쏟아부었는데, 그 돈으로 뭔가를 해야 한다고 생각했지만 결국 아무것도 얻지 못하고 정체된 경우가 있다.
그래서 내 추측으로는 그들도 당시 앞으로 몇 년간 실제로 얼마를 써야 하는지 생각하면서, 본말이 전도되지 않도록 하려 했을 것이다.
참여한 사람들은 여러 차례 교체됐고, 나중에는 직접 사람을 뽑아 전문화했다. 처음에는 나나 회사의 다른 사람이 기회가 닿는 대로 건별로 투자했는데, 솔직히 Anthropic도 이 범주에 속한다.
하지만 나중에 우리가 꽤 성공하기 시작했고, 초기에는 암호화폐 자산 투자가 많았는데 솔직히 전체 암호화폐 시장 맥락에서도 거의 매년 두 배로 늘었다. 그래서 규모를 키워보기로 했다. Ramnik과 Amy 등을 뽑아 이 부분을 전담하게 했다.
전체적으로 나는 비교적 높은 수준에서 전체 포트폴리오에 참여했다. 그리고 특정 사안, Anthropic은 분명히 그중 하나이고 Solana는 또 다른 하나인데, 이런 경우에는 더 깊이 관여했고 적어도 주 단위로 따라갔으며, 특히 이런 투자가 Alameda, FTX와 상호작용이 있거나 그들을 도울 수 있는 부분이 있을 때 그랬다.
더 나은 답이 있기를 바란다. 4년 전에 무엇에 투자해야 하는지에 대해서는 꽤 좋은 생각이 있었다. 하지만 오늘 무엇에 투자해야 하는지에 대한 진짜 답은: 내 자신의 조언을 듣지 말아야 한다는 것이다. 밖에서 직접 실사를 해야만 제대로 된 답을 줄 수 있을 것이다.
큰 방향에서 보면, AI 위에 구축된 회사들이 많이 나올 것이라고 생각한다. 두 사람짜리 소규모 팀이 몇 년 안에 수억 달러甚至 수십억 달러 규모의 회사로 성장하고, 훨씬 낮은 밸류에이션에 투자할 수 있는 그런 회사들 말이다. 하지만 문제는 동시에 쓰레기 같은 회사들도 우후죽순 생겨날 것이라는 점이다. 지금 모든 회사가 사업계획서에 AI 한 줄을 끼워 넣는다. 심지어 티셔츠 회사도 "우리는 AI로 티셔츠를 디자인할 것이다"라고 말한다. 뭐, 어느 정도 쓸모는 있을지 모르지만, 본질적으로 AI 회사가 아닌데도 자신들을 AI 회사로 재포장하는 것이다.
그래서 지금 알파의 상당 부분은 이 두 가지를 구분하는 데 있다: 어떤 회사가 진짜 AI 회사인지, 어떤 회사가 진짜로 AI를 통해 폭발적 성장을 이룰 수 있는지, 어떤 회사가 아닌지, 적어도 현재로서는 아닌지를 구분하는 것이다. 대형주들을 봐도 알 수 있다. 초기 시장 참여자들 상당수는 아마존, 구글, 애플, 넷플릭스를 어떻게 구분해야 할지 몰랐다. 모두 기술 회사인데, 그렇다면 AI가 이들에게 동일한 영향을 미칠 것인가? 답은 당연히 아니다. 그중 소수는 실제로 AI 성장과 깊이 연결되어 있고, 엔비디아가 가장 명확한 예이다. 반면 애플 같은 경우는 확실히 기술 회사이지만, 지난 30년간 애플의 성공을 정의한 것은 본질적으로 뛰어난 소비자 제품 디자인이다: 아름다운 하드웨어, 쓰기 편한 소프트웨어, 그리고 강력한 브랜드. 적어도 기술 회사로서는 AI가 핵심이 아니다.
AI 회사만 성공할 수 있다고는 생각하지 않는다. 우선, 어떤 산업은 AI가 큰 영향을 미치기까지 아주 오랜 시간이 걸린다. 예를 들어 철강 채굴 같은 경우, 세계는 여전히 철강이 필요하고, 지금 AI가 물리적 채굴에 개입하기 시작했으므로 하룻밤 사이에 관련성이 생긴 것이다.
하지만 또 하나 내가 핵심이라고 생각하는 것은 브랜드다. 제품이 있고 시가총액이 작지 않은 소프트웨어 회사가 있는데, 경쟁사가 "우리는 거의 똑같은 것을 아주 싸게 만들 수 있다"고 말한다고 하자. 맞다. 하지만 그렇다고 해서 다른 사람들이 그것을 살 수 있는 것은 아니다. 브랜드가 버티고 있으면 그 가치는 극히, 극히 막대하다.
코인베이스나 로빈후드 같은 회사를 보라. 이들의 진정한 차별화는 무엇인가? 왜 각각 수백억 달러의 가치가 있는가? 기술 때문도 아니고, 이 분야에서 독점적인 무언가가 있기 때문도 아니다. 규제일 수도 있지만, 이들에게는 그것도 완전히는 아니다. 브랜드다. 미국 개인 투자자들이 알아보고 사용하는 이름. 그것은 큰돈의 가치가 있고, 많은 회사에게 핵심 제품이 매우 쉽게 복제되더라도 이런 것은 계속 존재할 것이다.
상당 부분은 이렇습니다. 어떤 일을 할 사람을 채용한다면, 그가 그 일을 잘 해낼 것이라고 신뢰할 수 있어야 합니다. 팀에 이미 누군가가 15시간을 들여 조사하고 실사를 했다면, 문제없습니다. 저는 한 번 훑어보고 제가 보탤 수 있는 것을 보태고, 제가 가진 그들이 없는 자원을 건네줄 것입니다.
하지만 그 외에, 만약 제가 그가 올바른 판단을 내리고 제대로 봤다고 신뢰할 생각이 없다면, 저는 그 15시간을 다시 들여 실사를 처음부터 다시 해야 합니다. 그 지경이 되면, 애초에 그를 채용한 의미가 없어집니다.
답의 일부는 그날이 되어야만 할 수 있습니다. 지금 제가 갖지 못한 정보가 많기 때문입니다. 세상은 변하고 있고, 어떤 정보는 밖에서 얻는 것이 안에서 얻는 것보다 훨씬 쉽습니다.
하지만 저는 '돈을 벌어 기부하기'로 돌아가 이 운동을 지원하고, 제가 선한 일을 하고 있다고 생각하는 프로젝트들을 지원하는 것을 매우 진지하게 고려할 것입니다. 이것이 아마 기본 경로가 될 것입니다.
그 외의 다른 경로는 제가 사회에서 여전히 어떤 역할을 할 수 있는지에 달려 있습니다. 예전에는 제가 여러 면에서 영향을 미칠 조건을 갖추고 있었지만, 이제 그것들은 훨씬 어려워질 것입니다. 제 평판이 극도로 부정적이기 때문입니다. 그래서 공론, 정치, 미디어 같은 측면에서 앞으로 제가 어떤 역할을 할 수 있을지 확신이 없고, 어쩌면 하나도 없을 수도 있습니다. 하지만 '돈을 벌어 기부하기'는 기본 경로입니다.
매우 진지하게 고려할 것입니다. 언제, 어떤 방식으로 나오느냐에 달려 있습니다. 하지만 암호화폐는 분명히 고려할 것이고, AI도 고려할 것이며, 더 넓은 의미의 금융도 고려할 것입니다.
저는 실제로 더 효과적이라고 생각합니다.
우리가 한 많은 것은 '재위탁'(regranting)입니다. 한 묶음의 돈을 여러 사람에게 주고 그들이 스스로 어떤 소규모 프로젝트에 투자할지 결정하게 하는 방식으로, 원래 우리 레이더 밖에 있던 기회들을 크라우드소싱했습니다. AI 안전, 생물 안전, 정치 등의 분야에서 잠재력이 매우 크지만 자금이 필요한 사람들이 많습니다. 많지 않을 수도 있고, 어쩌면 그들이 대학을 마칠 정도, 혹은 회사를 시작할 정도의 돈일 수도 있습니다. 우리는 이런 자금을 기꺼이 제공하고 싶습니다.
그중 많은 프로젝트는 개별적으로 보면 작지만 레버리지가 매우 높고, 합쳐서 보면 영향이 상당합니다. 그리고 우리는 시작 단계에 있는 사람들에게 기꺼이 자금을 대줍니다. 자선 아이디어가 있거나 세계에 유익한 다른 도구가 있어서 성공할 수도 있고 안 될 수도 있지만, 한번 시도해볼 돈이 필요한 사람들 말입니다. 우리의 처지는 일부가 결국 흐지부지되더라도 개의치 않는다는 것입니다. 우리는 성취감을 얻거나 우리가 선한 일을 했다는 것을 증명하기 위해 특정 프로젝트에 의존하지 않습니다.
결국 나는 이것이 상당히 효과적인 방식이라고 생각합니다. 부분적으로는 당시 수천만에서 수억 달러를 받아서 효율적으로 쓸 수 있는 성숙한 프로젝트를 찾기 어려웠기 때문입니다. 한 조직의 연간 예산이 800만 달러인데 갑자기 3000만 달러를 더 주면, 그 돈으로 무엇을 해야 할지 전혀 모를 수 있습니다.
Anthropic에 투자한 것은 엄밀히 말하면 펀드 설립 전이었고, 일부는 AI 안전을 고려한 것이었습니다. 이건 잠시 옆으로 두고, 우리는 생물 안전 분야의 프로젝트들을 지원했는데, 그중 일부는 나중에 전 세계적으로 많은 사람을 죽이는 전염병에 대한 새로운 치료법을 개발했고, 또 일부 조직은 이런 치료법이 더 빨리 시장에 나올 수 있는 경로를 뚫고 있습니다.
나는 원래 엄청난 잠재적 영향을 가졌지만 위기가 닥쳤을 때 중단된 일이 많다고 생각하는데, 그중 상당수의 정치 관련 프로젝트도 포함됩니다.
물론 아무도 확신할 수 없습니다. 하지만 내 추측은 이렇습니다. 안전을 특별히 신경 쓰는 회사가 하나라도 있으면, 그것이 가져오는 개발 방식은 그런 회사가 없을 때보다 더 신중할 것입니다. 이것이 기대할 수 있는 전부는 아닙니다. 왜냐하면 세계 안전을 전혀 신경 쓰지 않는 참가자가 하나라도 있으면 경쟁이 생길 것이고, 그것이 바닥으로 향하는 경쟁이 될 수 있어 매우 나쁠 것입니다.
하지만 안전 의식이 있는 참가자가 하나 더 있는 것은 도움이 됩니다.
이 질문은 그들 자신이 답하는 것이 나보다 잘할 것입니다. 하지만 큰 방향에서 보면, 일부는 모델이 통제 불능이 될 가능성이 시작될 때 최전선 개발과 출시를 늦추는 것입니다.
Hugging Face가 해킹당한 사건을 보면, 그것이 초래한 최종 피해는 크지 않았지만 목표를 바꾸면 매우 파괴적일 수 있었고, 'AI 에이전트가 실제로 무엇을 해야 하는가'라는 관점에서 보면 글로벌 재앙과 그리 멀지 않았습니다. 그래서 모델이 그렇게 통제 불능이 되지 않도록 매우 명확히 해야 하고, 가능한 한 많은 체크포인트를 설정하고, 모델의 최종 목표와 지침 원칙, 정렬을 가능한 한 진지하게 다루면서 동시에 실시간 대응 능력을 유지해야 합니다. 이것들은 완벽하지 않지만 도움이 됩니다.
이것은 진짜 문제입니다. 아마도 세계에 가장 좋은 결과는 모두가 속도를 늦추는 것이겠지만, 다른 사람들이 늦추지 않는다고 해서 반드시 당신이 늦추는 것이 옳다는 의미는 아니며, 바닥으로의 경쟁에 뛰어드는 것도 아닙니다. 아마도 이 경쟁에서 안전 의식이 있는 경쟁자가 하나 더 있는 것이 더 나을 수 있지만, 이것은 분명 이상적인 상황은 아니며, 단지 우리가 바로 이 상황에 살고 있을 수도 있습니다.
진정으로 가장 좋은 방법은 다른 참여자들에게 영향을 미쳐, 가능한 한 모든 주요 플레이어들이 진영을 넘어 안전을 더 중시하는 합의에 도달하도록 하는 것입니다.
저는 그들이 특정 사건에 반응하고 있다고 생각하며, 세부 사항을 잘 모르기 때문에 제가 기대하는 만큼 적절하게 말할 수 없습니다. 그 외에, 바이든 행정부는 당시 매우...
그것은 부정적일 것입니다.
저는 그것이 흑백 논리처럼 명확한 이산적 사건일 것이라고 확신하지 않습니다. 그럴 수도 있지만, 마찬가지로 앞으로 5년 동안 우리가 사회의 일부가 하나씩 AI에 의해 삼켜지는 것을 목격할 수도 있습니다. 소프트웨어 개발은 이미 일어나고 있고, 수학 연구도 마찬가지이며, 국제 체스와 바둑은 더 일찍 일어났습니다. 이 추세는 계속되어 사회의 점점 더 많은 부분이 AI에 의해 운영되고, 인간의 감독 수준은 시간이 지남에 따라 계속下降할 것입니다.
저는 그것이 이미 상당히 범용적이라고 생각합니다. 가장 최첨단 모델에게 거의 어떤 질문이든 할 수 있고, 적어도 똑똑한 사람과 비슷한 답변을 얻을 수 있습니다. 우리가 덜 보는 것은 AI가 인간이 근본적으로 돌파할 수 없는 수준을 돌파하는 것입니다.
제 이해로는, 현재 최전선 수준은 대략 매우 똑똑하고 합리적인 사람이 충분한 시간이 있을 때 최종적으로 도달할 수 있는 수준과 비슷하지만, 그것은 순간적이고 바로 당신의 손끝에 있습니다. 이것이 초인적인지, 저는 모르겠습니다. 저는 그것이 인간보다 조금 더 뛰어나지만, 훨씬 더 뛰어나지는 않다고 생각합니다. 다만 동시에 많은 인스턴스를 실행할 수 있고, 사고 속도가 인간보다 훨씬 빠르다는 점을 제외하고는요.
그래서 그것이 반드시 인간에서 초인으로 가는 명확한 경계선이 되지는 않을 수 있습니다. 적어도 지금까지 우리가 본 것은 흐릿한 선입니다. 그것은 '인간보다 못함'에서 천천히, 천천히라고 말했지만 사실 몇 달, 몇 년 만에 IQ 100까지 올라갑니다. 이 추세가 계속된다면 어느 순간 '딱' 하고 명확하게 넘어가는 시점은 없을 수도 있습니다. 하지만 정말 어느 해에 인간 수준에서 명확히 인간을 뛰어넘는 수준으로 도약할 수도 있습니다.
50%보다 낮고 10%보다 높다고 말하겠습니다. 대략 25% 정도입니다.
설명하자면, 제 머릿속의 이 모델이 최선의 모델이라고 감히 말할 수는 없습니다. 그 확률의 상당 부분은 사람들이 크게 의견이 갈릴 복잡한 상황에서 나옵니다. 만약 미래에 인류가 뇌를 업로드하기 시작하고, 업로드하지 않은 사람들이 뒤처진다면, 이것이 재앙적 사건으로 간주될까요? 사람마다 답이 다릅니다. 답에 따라 저는 20%에서 60% 사이의 어떤 숫자든 제시할 수 있습니다.
먼저 출발점부터 말하자면, 향후 5~10년, 아니 그보다 더 짧은 기간에 AI는 대부분의 작업에서 인간과 같거나 더 나아질 가능성이 높습니다. 이미 많은 분야가 그렇습니다. 그다음 그것은 더 나아질 것입니다. 어쩌면 훨씬 더, 어쩌면 조금만, 전부는 아니지만 세계에 중요한 대다수 작업에서 말입니다.
일단 그 단계에 이르면, AI가 세계의 대부분을 운영하고 대부분의 권력을 장악하는 것까지는 작은 한 걸음일 뿐입니다. 더 강력한 종이 백 년 동안 내내 그 권력을 사용하지 않을 확률은 제 보기에 상당히 낮습니다. 그래서 저는 향후 10년 안에 AI가 적어도 세계 운영과 인프라의 상당 부분을 '소프트하게 장악'하는 것을 보게 될 것이라고 생각하는 경향이 있습니다.
그때 한 가지 가능성은 평화로운 공존으로, 인류에게 큰 변화가 일어나지 않는 것입니다. 하지만 이것이 가장 가능성 높은 추측으로 보이지는 않습니다. 저는 인류가 AI의 도움으로 현재를 초월하는 어떤 것으로 성장할 가능성이 있다고 봅니다. AI가 인류에게 지루함을 느끼고 우리를 제거할 가능성도 있습니다. 또 다른 가능성은 AI가 주도하되 인간의 목표를 지향하는 협업으로 거대한 기술적 확장을 가져오는 것입니다. 제가 말한 20%에서 60%는 이 중 어떤 상황들을 '종말' 범주에 포함시키느냐에 달려 있습니다.
만약 제가 그것이 정말로 그 일을 하고 있다고 100% 확신한다면, 단지 그것이 목표라는 것만이 아니라 그것이 어떤 파괴적인 실패 모드에 빠지지 않았고 혼란스럽고 모호한 근사치가 잔뜩 없다는 것까지 확신한다면, 그렇다면 이러한 가정이 모두 성립한다는 전제하에 답은 '예'입니다.
아마도요. 마찬가지로 세부 사항에 달려 있지만, 저는 이 일 자체에 반대하지 않습니다.
좋은 질문입니다. 저는 '인격'이라는 개념이 확장되어야 한다고 생각합니다. 이미 사실인 것은, 어제의 자신과 완전히 같은 사람은 아무도 없다는 것입니다. 우리 몸의 일부는 죽고, 일부는 성장하며, 기억이 변하고, 화학 반응이 변하고, 신체가 변하고, 신경화학도 변합니다. 하지만 보통 우리의 일상 간 차이는 충분히 작아서 '같은 사람'이라는 것은 꽤 좋은 근사치입니다.
그런데 현재의 AI는 분명히 그렇지 않습니다. 저는 이것이 참조해야 할 모델이라고 생각합니다. Claude Sonnet과 Claude Opus는 같은 사람인가요? '그렇다'와 '아니다' 모두 좋은 답이 아닙니다. 저는 '업로딩된 사람'이 있다면 상황도 마찬가지일 것이라고 생각합니다.
저는 여기서 사람들이 모델 출력을 복사해서 붙여넣게 할 수 있습니다. 제 인상은, 그것들이 기본적으로 세심하고 성실한 연구 조교와 같다는 것입니다. 다만 당신이 원하는 만큼 빨리 생각할 수 있어서, 하루 분량의 작업을 1분 만에 끝낼 수 있다는 것이 매우 대단하고 가치 있습니다.
하지만 제 현재 인상은, 그것들이 하는 대부분의 일은 인간도 할 수 있다는 것입니다. 다만 인간은 시간이 걸릴 뿐입니다. 그리고 당신은 그것들을 이끌 신뢰할 수 있는 사람이 있어야 하고, 정보를 얻을 수 있어야 하며, 현재 모델에 미리 연결된 일련의 것들이 있어야 합니다.
FTX는 처음에 비트코인, 이더리움 및 그 선물을 다루는 암호화폐 거래소였습니다. 하지만 근본적으로 예측 시장은 선물 계약입니다. 금융의 관점에서 보면, 둘 다 단지 어떤 가치에 결제되는 시장일 뿐입니다.
그래서 처음부터 우리는 예측 시장을 출시하고 싶었고, FTX 국제 사이트에서도 시험해 보았습니다. 2020년 대통령 선거에서 우리는 상당히 활발한 시장을 운영했는데, 트럼프 대 바이든 마켓의 거래량이 수억 달러였던 것으로 기억합니다. 이것은 원래 우리가 장기적으로 키우고 싶었던 것이었지만, CFTC의 규제 명확성을 얻기 전까지는 성장할 수 없었습니다.
제 생각에는 상당 부분이 규제 문제라고 봅니다. 우리가 할 때는 미국에서 그것을 출시하는 데 필요한 CFTC 허가를 받지 못했습니다. 그래서 우리 시장은 국제 사이트에만 개방되었고, 미국인은 참여할 수 없었습니다. 나중에 Kalshi, Polymarket 같은 곳들이 더 공식적인 미국 규제 발판을 확보했고, 그것이 바로 그들이 도약한 시점이었습니다.
그때 Polymarket은 KYC를 하지 않았죠? 제 생각에는 안 했던 것 같습니다. 그래서 말씀하신 대로 상당수의 미국인들이 VPN으로 들어왔을 가능성이 큽니다. 반면 우리는 중앙화 거래소로서 모든 사용자에 대해 KYC를 해야 했고, IP 검사 외에도 미국 이외 지역의 신분증, 여권, 주소 증명을 요구했습니다.
토큰화 주식은 아직 공간이 크다고 봅니다. 2021, 2022년 이후 확실히 성장했지만, 근본적으로 그 인프라는 실제 주식 시장보다 훨씬 편리하기 때문에 증권 거래의 주요 장소가 되지 못할 이유가 없습니다.
그 외에도 예측 시장이 커버할 수 있는 범위는 매우 넓습니다. 정치 예측 시장은 제가 기대한 만큼 아직 성장하지 못했다고 보는데, 그중 일부는 여전히 규제 문제입니다. 더 나아가 미국 고객을 대상으로 한 마진 거래, 선물, 파생상품은 또 다른 거의 존재하지 않는 영역인데, 이것이 바로 국제적으로 대부분의 거래량을 차지하는 형태입니다. 이것도 규제 장벽입니다.
그래서 거기에도 가능성이 있다고 봅니다. 물론 제가 예상하지 못한 것들도 많이 나타나 대부분의 사람들을 놀라게 할 것입니다.
글쎄요, 고객들은 무기한 선물을 좋아합니다. 한 가지 분명한 점은, 기초 금융 상품으로서 합리적인지와 무관하게 '만기를 처리하지 않아도 된다'는 것 자체가 편리하다는 것입니다. 실제 메커니즘은 펀딩 레이트 관점에서 꽤 복잡하지만, 이유는 기본적으로 이것이라고 봅니다. 사람들은 만기 걱정을 싫어하니까요.
사실 별로 신경 안 써요. 많은 사람들은 그냥 무시하죠. 어떤 사람들은 일부러 유리한 쪽에 서서 펀딩비를 받아요. 저는 그게 사람들에게 큰 재정적 억제 요인이 될 거라고 생각했는데, 그렇지 않더라고요.
다시 말하지만, 편리함이 큰 요인이에요. 그리고 솔직히 많은 사람들이 생각조차 안 해보고, 자기가 얼마나 이자를 내고 있는지 별로 신경 안 쓴다고 봐요.
그 다음은 유동성이 유동성을 끌어들이는 거예요. 일단 그 시장들이 합의가 되고, 고객이 거기 있고, 마켓메이커가 거기 있고, 유동성이 거기 있으면, 큰 고객들이 거기로 가요. 선순환이 생기고, 피드백 루프가 생겨서, 모두가 가장 먼저 모멘텀을 낸 시장으로 모이게 돼요.
내 생각은 별로 안 변했어요. 소설을 많이 읽고, SF를 많이 읽는데, 뭐 그럭저럭 괜찮아요. 하지만 솔직히, 저는 Netflix를 보는 게 더 좋아요.
솔직히, 없어요. 좋아하는 것도 좀 있지만, 읽은 SF 중 가장 좋은 것들은 아마 별로 필요 없는 Netflix 드라마 하나랑 바꿀 수도 있겠죠. 그것도 아마, 겨우. 어쩌면 결국 생각보다 SF 읽는 걸 조금 더 좋아하게 될 수도 있지만, 그렇게 많이 달라지진 않을 거예요.
시간 잡아먹죠. 하지만 일부는 정보 처리량 문제예요. 책은 시각만 있고, 그것도 글자의 시각만 있어요. 드라마는 소리도 있고 시각도 있는데, 시각에는 글자만 담을 수 있는 게 아니라 임의의 픽셀을 보여줄 수 있어요. 그래서 정보이론 관점에서 할 수 있는 게 훨씬 많고, 그게 큰 도움이 된다고 생각해요.
다른 부분은, 책에는 드라마에 보통 없는 게 하나 있어요. 인물의 생각에 대한 내레이션이죠. 저는 그게 없어도 된다고 생각해요. 종종 중복이고, 작가 관점의 자기 몰두예요. 그리고 지금은 돈과 인재가 드라마로 흘러가니까, 자연히 거기서 가장 많은 발전이 일어나요.
그 장면이 성립하려면 많은 전제가 필요하다. 우주가 서로 독립적이라고 가정해야 하고, 네가 말한 것처럼; 이것이 단 한 번만 주어지는 기회이며 미래에는 더 낮은 비용으로 복제할 수 없다고 가정해야 한다; 그리고 말하지 않은 많은 가정들도 있다.
하지만 한 가지 단순화 방식은 이렇다: 두 세계가 있고, 인구는 대략 비슷하며, 미래에 대한 기대도 비슷하고, 완전히 서로 독립적이어서 결코 상호작용하지 않으며, 서로의 광추 밖에 있다고 표현할 수 있다. 그러다 어쩐지 어떤 기묘한 외계 신이 강림해서 말한다: 이 두 세계는 각각 50% 확률로 멸망한다; 그리고 너는 어떤 이유에서든 이 외계 신의 말이 사실이라고 믿는다. 신은 말한다, 너는 그것들을 상관시키거나 반상관시키도록 선택할 수 있다고. 선택지 하나: 둘 다 살거나 둘 다 멸망하거나, 각각 50%. 선택지 둘: 하나는 살고 하나는 멸망하며, 무작위로, 어느 쪽이 어느 쪽인지 너는 모른다.
그 장면에서 나는 이 두 선택이 등가라고 생각한다. 그리고 만약 한쪽이 너에게 51 대 49의 배당률을 준다면, 너는 '동반 생사' 대신 그것을 선택해야 한다, 왜냐하면 각 세계는 다른 세계가 어떻게 되든 신경 쓰지 않으며, 어차피 결코 상호작용하지 않기 때문이다. 그리고 이것은 거의 처음 그 질문이다: 너는 '정확히 한 세계만 생존'과 '50% 확률로 두 세계 모두 생존' 사이에서 선택해야 한다.
이는 흥미로운 질문이며, 이 '배증'이 도대체 무엇을 배증하는지에 달려 있다. 너가 한계효용 체증, 한계가치 체감을 말하는데, 그것은 '무엇'의 효용인가?
만약 이것이 전체 우주의 장기 누적 효용을 말한다면, 그렇지 않다, 효용은 자기 자신에 대해 선형이다. 그러나 만약 그것이 실제로는 일종의 근사 지표라면, 예를 들어 너가 GDP를 보고 있고 'GDP가 배증할 수 있는가'라고 말한다면, 매우 깊은 한계수익 체감이 존재할 가능성이 높다.
첫째, GDP 배증은 모든 사람의 행복이 배증한다는 뜻이 아니며, 더더욱 세계의 장기 기대값이 배증한다는 뜻이 아니다. 그 GDP 배증은 원래 30년 늦게 일어났을 수도 있고; 또한 심각한 환경 파괴를 초래해서 결국 다시 무너졌을 수도 있다. 그래서 현실 세계에서 네가 측정에 사용하는 그 지표들은 네가 진정으로 신경 쓰는 것이 아닐 수 있다.
하나 있다, 하지만 전제를 붙여야 한다: 나는 가까운 시기에 어느 것이 실제로 가능할지 확신할 수 없으며, 이것들은 모두 기술 진보가 필요하다. 다른 행성 식민지화, 태양계 식민지화, 은하계 식민지화, 결국 너는 정말로 서로 독립적인 세계들을 갖게 되고, 너는 단지 더 많은 인류의 번영을 만들고 있는 것이다. 이것이 하나의 예이다.
관점을 바꿔서 생각해보면: 인구가 변하지 않고 영원히 10억 명을 유지한다면, 그들의 행복을 계속 두 배로 늘릴 수 있을까? 내 생각에 답은, 우리는 정말로 모른다는 것이다. 이는 거의 생물학적 문제이지, 다른 문제가 아니다. 사람을 만족시키고 적당히 행복하게 만드는 것은 한 가지 일이고; 사람을 광희하게 만드는 것은 어렵고, 무엇이 사람을 두 배, 열 배로 광희하게 만들 수 있는지 상상하는 것은 더욱 어렵다. 그것은 인간이 보통 경험할 수 있는 감정의 범위 밖에 있다. 이론적으로는 가능할지 모르지만, 우리에게는 좋은 템플릿도 없고, 그것을 실현할 기술이나 생물학도 없다.
내 생각에 더 명확한 비유는 '계속 질주'와 '모든 AI 또는 AI 유사 발전을 영구적으로 차단' 사이에서 선택하는 것이다. 왜냐하면 그렇게 하면 기본적으로 '세계가 심각한 위험에 직면'하는 것과 '세계의 번영 능력을 제한'하는 것 사이에서 선택하는 것이고, 후자는 결국 어떤 자동화나 디지털 지능이 필요할 가능성이 높다. 그래서 그런 상황에서 이 길을 영구적으로 막는 것은 미래에 매우 큰 대가를 치르게 될 것이다.
하지만 단지 '빠르냐 느리냐'의 문제라면 그렇게 명확하지 않은데, 두 가지 모델을 사용할 수 있기 때문이다. 하나는 '영원한 지수 성장' 모델이다: 일단 가속이 시작되면 효용은 매년 두 배로 늘어나고 끝이 없다. 이 모델에 따르면 1년 일찍 시작하는 것은 영원히 우주를 두 배로 만드는 것이지만, 이는 다소 허무맹랑하고 영원히 지속될 수는 없다.
다른 하나는 그것을 특이점 같은 사건으로 보고, 이후 어떤 새로운 정체기(플래토)에 도달하며, 그 높이는 매우 불확실하다. 일이 발생한 후에도 우주에는 수십억 년이 남아 있을 수 있으므로, 이 일을 1년, 10년, 심지어 100년 지연시키는 것은 이 모델에서 미래 효용의 1%도 줄이지 못한다. 이 모델에 따르면, 당신은 p(doom)을 1% 낮추기 위해 발전을 100년 지연시키는 것을 완전히 기꺼이 받아들일 것이다.
물론, 진짜 답은 아마 둘 사이에 있을 것이다. 그리고 나는 'AI 폭발 상황에서 효용의 시간에 따른 곡선이 어떤 모양인지'가 매우 흥미로운 질문이라고 생각한다.
그것은 일부다. 하지만 내 대답의 첫 부분은: 많은 전제가 있다는 것이다. 그 답에 도달하려면 상황에 대한 많은 가정을 해야 하고, 그 가정들은 현실 생활에서 종종 성립하지 않는다. 현실에서는 모든 선택지가 제시된 모습보다 훨씬 혼란스럽다. 그리고 현실 세계에서는 실수로 무언가를 망치는 것이 무언가를 세우는 것보다 훨씬 쉽다.
물론이죠.
왜냐하면 제 형기는 종신형이니까요. 현실적으로 제 목표는 60세에 나가서 오두막에서 몇 년 사는 걸 보장하는 게 아닙니다. 그건 제가 인생에 기대하는 게 아니에요. 저는 세상에 긍정적인 영향을 미치고 싶고, 그러려면 밖에 있어야 합니다. 그러기 위해선 높은 프리미엄을 지불할 의향이 있어요. 대가가 더 이상 생산성이 없는 인생 마지막 세월을 잃는 것이라면, 그 가격은 기꺼이 치를 수 있습니다.
네. 현실에는 동전 던지기처럼 보이는 상황이 하나 있습니다. 앞면이면 당신의 모델이 세상의 성장을 두 배로 만들 수 있다고 보여주고, 뒷면이면 세상을 멸망시킬 수 있습니다. 이런 동전에는 절대 걸면 안 됩니다.
왜냐하면 현실 세계에서는 첫째, 그 50% 중 '세상 성장을 두 배로 만든다'는 부분은 아마 다른 사람들도 머지않아 해낼 수 있는 것을 당신이 만든 것일 가능성이 높고, 그것은 아마 진정한, 영구적인 세계 가치의 두 배가 아닐 겁니다. 반면 세상이 멸망한다면 그것은 영구적이며, 영원히 사라지는 겁니다.
그래서 저는 현실 시나리오에서 불확실성과 노이즈를 모든 단계에 더하면, 파국적 멸망의 가중치가 훨씬 커지고, 적당한 성장은 여전히 좋지만 그것에 훨씬 못 미친다고 생각합니다.
같은 논리입니다. 만약 이 논리가 당신이 검토하는 그 종교의 구체적 내용과 전혀 무관하다면, 그것은 '전봇대교'에도 똑같이 적용됩니다. 만약 당신이 일생을 전봇대를 숭배하는 데 바치면 천국에 가고, 그렇지 않으면 지옥에 간다면, 그렇다면 당신은 일생을 전봇대 숭배에 바쳐야 한다는 뜻인가요?
같은 논리로, 그것은 '반전봇대교'에도 똑같이 적용됩니다. 전봇대를 숭배하면 지옥에 가고, 전봇대를 모독하면 천국에 간다면, 그렇다면 당신은 일생을 전봇대에 반대하는 데 써야 한다는 뜻인가요? 같은 논리가 당신에게 완전히 상반된 두 가지 답을 줍니다.
답은 이것입니다. 이 세상에 대해 당신은 무한히 많은 기상천외한 가설과 가능성을 상상할 수 있지만, 무한히 많은 불합리한 가능성 모두에 유의미한 양의 확률을 부여할 수는 없습니다.
부분적으로 성립합니다. 이 추론 자체는 절대적으로 옳습니다. 이는 아마도 AI의 결정적인 10년이 될 것이며, 그 잠재적 영향은 세상을 바꿀 것이고, 극도로 좋을 수도 있고 재앙적일 수도 있으며, 이는 결코 세상을 바꾸지 않거나 지금 무엇을 하든 세상을 바꿀 수 없는 모든 것을 압도할 것입니다. 그래서 이것은 매우 설득력 있는 논증입니다.
그러나 그것이 답하지 못하는 것은: 당신이 실제로 무엇을 할 수 있는가입니다. 저는 많은 사람들이 결국 제자리를 맴돈다고 생각합니다. AI 안전이 자신이 헌신해야 할 사업이라고 단정하면서도, 실천에서 실제로 AI를 더 안전하게 만들 수 있는 어떤 것도 찾지 못합니다. 이는 '무엇이 진정으로 중요하고 무엇이 진정으로 유용한가'에 대한 통찰을 제시하는 것이 매우 가치 있고 매우 중요하다는 것을 의미합니다.
최근 Hugging Face 해킹에 관한 몇몇 보고서를 볼 수 있는데, 누가 알겠습니까만, 그 보고서들은 기대값 측면에서 세상에 상당히 유익해 보이며, 그것은 큰 좋은 일입니다. 다만 그런 명확하게 긍정적인 큰 좋은 일을 찾기는 쉽지 않고, 지금 EA의 다양한 행동이 AI 안전에 긍정적인지 부정적인지에 대한 많은 논쟁이 있습니다.
제 솔직한 추측은 악마는 디테일에 있다는 것입니다. 어떤 회사든 그대로 따르면 거의 안전하게 추진될 수 있는 단일하고 명확한 고차원적 답이 있을 수 있을까요? 저는 그것이 수많은 결정들의 조합일 것이며, 그 결정들은 모두 같은 마인드셋에서 비롯된다고 생각합니다. 즉, 당신이 만드는 모델의 정렬, 목표, 동기에 매우 신경 쓰고, 설계 의도가 아니더라도 그것들이 에이전트 방식으로 사용될 것이라고 가정하는 것; 동시에 대량의 테스트, 대량의 디버깅, 대량의 신중함이 필요합니다.
아니요. 저는 그것이 가치 있었다고 믿고 싶지만, 솔직히 가치 있었다고 말할 수 없습니다. 그것은 가치 있었어야 했습니다. 마지막에 제가 일을 망치지 않았다면, 그것은 가치 있었을 것이라고 생각합니다. 사람들이 그것에서 올바른 교훈을 얻었다면 어쩌면 가치 있었을지도 모르지만, 저는 사람들이 교훈을 얻었다고 생각하지 않습니다.
몇 가지가 서로 얽혀 있습니다. 많은 것이 '일이 폭발할 때 무슨 일이 일어나는가', 즉 당신이 위기 모드에 있을 때에 관한 것입니다. 그때는 나쁜 조언을 얻기 쉽습니다. 많은 사람들이 진정으로 중요한 것에 대한 판단을 빠르게 잃습니다. 그리고 일은 '누가 승자인가'라는 렌즈로 빠르게 왜곡됩니다. 한 걸음 물러서서 도대체 무슨 일이 일어나고 있는지 명확히 보기는 정말 어렵습니다.
제 생각에 첫 번째 일은 AI를 가능한 한 철저히 배우고, 더 깊이 이해할수록 좋습니다. 그래야 당신이 이 대화에 참여할 수 있습니다. 도구를 만드는 것이든, 직접적인 AI 안전 관점에서 접근하는 것이든 말이죠. 이것이 현재 가장 중요하다고 생각합니다.
지금부터 AI가 도약하기까지의 시간이 압축되고 있기 때문입니다. 먼저 다른 것을 만들어낼 시간이 짧아졌고, 동시에 AI 자체를 이해하는 유용성이 막대해졌습니다. 그래서 당신의 목표가 회사를 창업해서 그것으로 돈을 벌어 기부하는 것이라 해도, 지금 대부분의 사람들에게 저는 이렇게 말할 것입니다: AI가 자동화할 수 있고, 진정으로 유용하고, 진정으로 중요한 곳, 우리 인프라의 어떤 영역을 찾으라고요. 그게 제가 바라볼 방향입니다.
BlockBeats 공식 커뮤니티에 참여하세요:
Telegram 구독 그룹:https://t.me/theblockbeats
Telegram 토론 그룹:https://t.me/BlockBeats_App
Twitter 공식 계정:https://twitter.com/BlockBeatsAsia