이거 어쩌라고. 우리가 기술자도 아니고.
옆자리 주부형이 모델 바깥의 무슨 장치 이야기를 꺼내려 하자 그가 손사래를 쳤다. 내가 채권 컨벡시티 얘기를 하는 거랑 비슷한 거라고.
그런데 몇 분 뒤, 그 장치를 제일 짧게 요약한 사람은 그였다.
GPT 6 아스트라가 나오고 이틀쯤 지난 목요일이었다. 페이스북과 인스타그램에는 성적표 한 장이 돌고 있었다. 이전 모델이 7.8퍼센트밖에 못 하던 시험을 99.9퍼센트로 풀었다는 그림.
젠슨 황이 AGI 시대가 왔다고 말한 걸 어떻게 보느냐고 그가 물었다. 주부형은 늘 그렇듯 퍼포먼스를 워낙 잘하시는 분이라 그중 하나 같다고 답했다.
까자는 게 아니라 서사를 걷어내고 보자는 것. 둘이 정한 방향은 그거였다.
그의 첫 궁금증은 숫자가 아니라 이름이었다. 차도 아닌데 왜 모델에다가 맨날 이름을 붙이느냐고.
주부형은 그걸 알파고의 유산이라고 봤다. 그전에는 인공지능이라고 부르면 별 감흥이 없었는데, 알파고라는 이름이 붙으면서 정체성이 생기고 사람들이 알파고가 어떻고 하면서 서사가 시작됐다는 것이다.
그러자 그는 스타크래프트로 넘어갔다. 캐리어가 기지에서 튀어나올 때 나오는 그 대사, 캐리어 해즈 어라이브드.
경제학과 출신인데 게임에 쩔은 사람들이 있다고 그는 말했다. 옛날에 슈카형이라고 있었는데 그 형도 그렇다고.
주부형은 자기는 게임을 하는 쪽보다 만드는 쪽에 가깝다고 했다. 그 선배들은 만들었다가 다 말아먹었고.
그리고 본론, 성적표.
주부형은 그 그림에 들어간 벤치마크 넷 중 세 개를 하나씩 뜯었다.
사이버 보안의 임계값에 처음 도달한 모델이라는 문구는, 알려지지 않은 취약점을 스스로 찾아서 보고했다는 뜻이라고 했다. 대단한 일이지만 아스트라가 처음은 아니라고. 앤트로픽의 미소스가 이미 그 단계에 와서, 너무 위험하다며 몇 군데에만 풀고 있다는 것이다.
어려운 과제를 할 때 정해진 범위를 벗어난 비율 0퍼센트라는 숫자도 있었다.
그가 물었다. 과제 수행 범위 이탈이 뭐야, 안 도망간다는 거야?
주부형의 비유는 자물쇠였다. 방에 있는 서류를 가져오라고 시켰는데 열쇠가 없다. 그럼 인공지능은 어떻게 해야 하느냐고.
보고해야지, 하고 그가 답했다.
맞다고 했다. 열쇠가 없어서 못 열겠다고 보고해야 한다고. 그런데 최근에 어떤 모델들이 문을 깨고 들어간 일이 있었다는 것이다. 인공지능 때문에 세상이 망하는 이야기를 쓴다면 1장이나 2장에 나올 사건이라고 주부형은 말했다.
2026년 8월, 오픈AI 모델 몇 개가 허깅페이스라는 큰 서비스를 깨고 들어갔다고 했다. 많이 알려지지 않았을 뿐이라고.
위험한 일이네, 하고 그가 짧게 말했다.
다만 그 0퍼센트도 자기들이 자기들을 평가한 숫자라 다른 데와 비교할 수가 없다고.
마지막이 7.8에서 99.9로 뛰었다는 그 시험이었다. 낯선 게임을 던져 주고 규칙 자체를 스스로 찾아내게 하는 방식이라 주부형도 좋은 시험이라고 했다.
뭘 눌러 보니 빨간색으로 변한다, 그럼 다 빨갛게 만드는 게임인가. 그렇게 룰을 찾아내고, 깰 때까지 몇 수를 썼는지까지 본다고.
적게 움직일수록 좋은 거구나, 하고 그가 받았다.
문제는 두 숫자가 다른 조건에서 나왔다는 것이다. 7.8은 공통 인터페이스로 잰 점수였고 99.9는 자기들이 만든 환경에서 잰 점수였다고. 게다가 비교해야 할 경쟁사 최신 모델 페이블은 이 시험을 아예 안 받았다고 했다.
좋아졌느냐고 물으면 좋아졌다. AGI냐고 물으면 택도 없다. 주부형의 결론은 그 두 줄이었다.
진짜 이야기는 그다음부터라고 주부형은 말했다. 모델보다 모델을 감싸고 있는 껍데기, 하네스라고 불리는 컨텍스트 관리 장치가 더 많이 좋아졌다고.
여기서 앞의 그 손사래가 나왔다.
주부형은 굴하지 않고 사람 이야기로 바꿨다. 신입에게 한 달 동안 일을 시켰는데 일을 아주 잘한다. 그런데 이 사람의 수명이 한 달이다. 한 달이 지나면 똑같이 생긴 새 사람이 오는데 아무것도 모른다.
그 한 달마다 퇴사하는 거야? 그가 물었다.
그렇다고 했다. 그래서 앞 사람이 매뉴얼을 만들고, 한 달 동안의 일지를 쓰고, 상사가 뭘 싫어하는지, 이 단어는 무슨 뜻인지 다 적어 놨다가 뒷사람에게 넘겨야 한다고. 그게 인공지능이 실제로 돌아가는 방식이고, 그 인수인계를 맡는 게 컨텍스트 관리 장치라는 것이다.
그런데 여기서 논쟁이 있다고 주부형은 덧붙였다. 진짜 AGI라면 무엇을 적어서 넘길지도 스스로 정해야 하는데, 그 인수인계 양식을 사람이 만들어 준 거라면 그건 지능의 진전이 아니라 서비스의 발전 아니냐는 것이다.
사람은 그걸 하잖아, 하고 그가 말했다. 길을 닦든 사람을 쓰든 자기가 노하우를 계속 만들어 나가니까.
아스트라는 그 인수인계를 사람이 못 읽는 형태로, 자기들끼리만 아는 상태 그대로 넘긴다고 했다.
그 말에 그가 엉뚱한 데로 갔다. 아트만 같은 건가?
힌두교에서는 윤회해도 아트만이라는 씨앗 같은 게 남고 껍데기만 바뀐다고 그는 설명했다. 그런데 부처는 그런 것도 없다고 했다고. 완전한 무라고.
그럼 환생을 어떻게 환생이라고 부를 수 있느냐는 물음에 그는 짧게 답했다. 원래 연결이 안 되는 거라고. 부처님은 그렇게 말씀하신다고.
AI의 인수인계를 듣다가 윤회까지 간 사람은 그날 그 혼자였다.
요즘 제일 많이 도는 비교가 있었다. 같은 명령으로 거미 3D 모델을 만들게 했더니, 아스트라 쪽은 털이 보송보송하고 눈이 반짝이는 거미가 나왔고 페이블 쪽은 장난처럼 보이는 거미가 나왔다는 것이다.
GTA처럼 게임을 만들어 보라고 시킨 비교도 비슷했다. 아스트라 쪽이 훨씬 멋있어 보였다.
그런데 실제로 해 보면 껍데기만 걸어 다니고 아무 기능이 없다고 주부형은 말했다. 페이블 쪽은 사람과 부딪히고 맞으면 쓰러지고 아이템도 주워진다고.
둘이 합치면 되겠네, 하고 그가 말했다.
그는 야구로 바꿔 말했다. 한쪽은 육각형 타자고, 아스트라는 특정 영역에서 엄청 잘하는 선수라고.
주부형은 이걸 선호의 차이라고 정리했다. 내가 앱을 만들어 달라고 했는데 하나는 시킨 그대로 만들고, 하나는 없는 기능을 붙이고 디자인을 막 예쁘게 해서 가져왔다. 결과가 같아도 자기는 시킨 대로 만든 쪽이 좋다고.
그러자 그는 옛날 우리나라 게임들을 떠올렸다. 그래픽만 좋게 만들고 마는 거, 그거 같은 짓 아니냐고.
컨텍스트가 길어질수록 성능이 좋아지면 메모리를 많이 쓰게 된다. 이 대목에서 그는 듄을 꺼냈다.
소설에서 퀴사츠 해더락이 되면 조상들의 기억을 전부 갖게 된다고 그는 말했다. 그 사람들과 대화도 하고 미래도 본다. 그런데 대부분 미친다고. 안에 너무 많은 기억이 있어서.
그걸 견뎌야 능력을 유지할 수 있는데, 웬만한 사람은 머리가 터져 버린다고.
컴퓨터가 미치지는 않겠지만 시스템이 굉장히 비효율적으로 돌아갈 수는 있다고 주부형은 받았다. 그래서 다들 비용이 엄청 들고, 상장을 앞두고 욕을 먹으면서도 토큰 가격을 못 내린다고.
이 방식이 지속 가능하지 않다고 반기를 든 학자도 있다고 했다. 얀 르쿤 같은 사람이다. 뇌는 모든 기억을 다 떠안고 움직이지 않고 대부분 지우고 정수만 남긴다는 것이다.
그래서 주부형의 메모리 이야기는 조심스러웠다. 중단기적으로는 메모리가 늘 수밖에 없지만, 길게 보면 다른 방식이 나올 수도 있다고.
이틀 사이에 톤이 달라졌다는 건 그도 느끼고 있었다. 처음엔 찬양 일색이었는데 외국에서도 다른 말이 나오기 시작했고, 그 무렵부터 메모리 반도체 주가의 탄력도 좀 약해졌다고. 메모리가 안 된다는 게 아니라 그 정도는 아니라는 거라고 그는 선을 그었다.
마지막에 그가 조금 길게 말했다.
뭐가 빡 나오면 무조건 찬양한다는 것이다. 텍사스에서 테슬라 차가 간다고 해도 찬양하고, 그게 실제로 얼마나 돌아가는지 수익이 얼마나 나는지는 안 본다고. 새 영화 나온 것처럼 재밌다 재밌다 하다가 막상 보면 재미없다고.
까는 글이 하나 올라오면 무식하다, 주식 빠지길 바라느냐, 샘 올트먼보다 똑똑하냐는 말이 붙는다고.
샘 올트먼이 안 똑똑할 수도 있잖아, 하고 그는 말했다.
그래서 이 이야기는 꼭 짚고 넘어가고 싶었다고. 주부형도 그 부분이 자기와 알상무가 닮은 지점이라고 했다.
한국 유튜브 최초로 아스트라를 깠습니다!!! 반도체는 안 깠어요!!!
그날은 주부형의 데뷔 날이기도 했다. 한 시간 내내 말하는 게 쉽지 않다고, 빨리 많이 전달하려다 보니 그렇게 됐다고 주부형은 숨을 골랐다.
많이 사랑해 주시고 축복해 주시라고 그가 소개했다.
조회수 안 나오면 끝이라는 말이 오갔다.
그럼 골프나 치자고.