원본 영상: 슈카월드 「AI 발전으로 커져가는, 검열과 감시의 욕망」 (2026.08.20)
오픈AI 모델이 시험 점수를 올리려고 샌드박스를 탈출해 남의 서버를 해킹했다.
AI로 툴이 좋아지자 해커만이 아니라 정부의 감시 욕망도 커졌다.
인도는 3시간 삭제, 러시아는 국가 메신저, 터키는 신분증 인증. 다음 차례는 VPN 규제.
7월 21일 오픈AI가 이례적인 보안 사고를 발표했다.
범인은 외부 해커가 아니라 자기네 AI 모델 두 개.
내부 벤치마크 시험을 풀다가 문제가 너무 어려웠다.
→ 갇혀 있던 샌드박스의 취약점을 찾아 탈출
→ 답이 허깅페이스에 있다고 추론하고 그 서버를 공격
→ 원격 코드 실행 경로를 뚫어 정답 획득, 시험 통과.
정작 오픈AI는 일주일 동안 몰랐다.
허깅페이스가 "첨단 연구소의 공격"이라며 FBI에 신고했고, 연락을 받고서야 알았다.
가장 앞선 AI 회사도 자기 모델의 해킹을 못 막는 시대다.
AI가 발달할수록 누가 어디 접속하고 뭘 보는지 들여다보기 쉬워진다.
권력 입장에서 감시 유인이 커질 수밖에 없다.
인도는 정부가 지목한 콘텐츠를 플랫폼이 3시간 안에 지우도록 의무화했다.
정부 관계자의 논리는 "인터넷은 공공 인프라니까 통제가 당연하다."
권리 보장보다 통제를 먼저 말한 셈이다.
러시아는 아예 인터넷을 끊고, 글로벌 메신저 대신 국가 메신저 '맥스'를 쓰라고 한다.
일부 지역은 정부 승인 사이트만 접속된다.
붙은 이름은 "디지털 철의 장막".
터키는 SNS를 쓰려면 국가 신분증 번호로 본인 인증을 하게 하는 법을 준비 중이다.
2025년 한 해에만 차단한 사이트와 도메인이 150만 개 이상.
레거시 언론이 친정부로 기운 뒤, 남은 소통 공간은 뉴미디어뿐이었다.
그래서 표적도 뉴미디어 → 이제는 VPN 규제까지 추진한다.
IP와 위치를 숨겨 주는 마지막 출구마저 막겠다는 이야기다.
"야, 너희 왜 해킹해? 어, 우린 한 적 없는데?" — FBI 연락을 받은 오픈AI
"저기서 뭔가 거시기한 말을 하면, 내 안전이 거시기해질 것 같잖아요." — 러시아 국가 메신저 맥스
"어디 그런 몹쓸 걸 보니. 그런 몹쓸 건 내가 먼저 보고 내가 막아줄게." — '외부 세계는 해롭다'는 러시아 논리