질문: AI 속도조절론에 대해 제기되어야 할 계급적 질문

카테고리 [질문들]은 답을 쓰지 않는 질문만을 담는 글의 모음입니다

배경

AI 속도를 늦추자는 업계인들의 주장이 뒤를 잇고 있는 상황이 연출 되고 있다.

빅테크 업자들에게서 AI속도조절론이 제기되고 있다

앞에선 AI속도조절 한목소리…뒤에선 'IPO·주도권' 복잡한 셈법 | 연합뉴스

하지만 이 주장의 속을 들여다보면 핵심은 속도 조절 쪽이 아니다.

이 제안의 핵심은 속도 쪽이 아니다

이 "조절"이란 말을 오해해서는 안되는데, 이는 그들이 하고 있는 모델링, 컴퓨팅 투자 등을 하지않겠다는 말이 아니다. 새로운 모델이 등장할 때 정부와 사회의 통제와 안전성 평가가 뒤를 잇게 되는데, 이 평가가 모델의 발전속도를 따라잡지 못하고 있는 걸 지적하는 거다. 그래서 속도를 조절하자는 것. 핵심은 국제-사회의 평가와 승인에 있다.

빅테크 업자들이 실제 무슨 말을 했는지 간단히 알아보자

앤트로픽 창립자 아모데이는 한 글^[각주:1]에서 3가지 방지책을 제안한다.

1. 임베디드 평가자
2. 민주적 조정
3. 글로벌 조정

다시 말해 그는 기업 단위 이상의 조정을 제안했다.

이에 오픈AI의 샘 알트먼^[각주:2]도 이에 동조하였고 안전성에 대한 기업간 협약을 할 수 있음을 시사했다고 한다.

하여, 속도 조절이 아니라 AI의 안전성에 대해 사회적 승인을 받고싶다는게 핵심인 거다.

그리고 제기되어야 할 계급적 질문들

그렇다면 여기에서 이런 주장들이 왜 업계인들에게서 제안되고 있는지 한편으로 의구심이 드는 바, 현재 나로서는 이 제안에 대해 두 가지 질문이 고려돠어야 한다고 본다. 첫째는 경영자 개인의 의도가 무엇인지가 아니라 자본가계급의 의도로서 볼 때

안전성을 누가 결정하는가?

이다. 이는 승인의 과정의 민주성을 충분히 고려해야한다는 것. 그리고 둘째로 이것을 계급관계적 현상으로서 바라볼 때

안전성은 누구에게 이득이 되는가

라는 질문을 던지는 것이다.

때문에 모두가 이득을 가져야 한다는 빅테크 경영자들의 말에 현혹되어서는 안된다고 본다. 그들의 이 제안은 그들에게 이득이 되는 것이며 평가와 승인 과정에 있어 그들에게 상당한 정보비대칭성 문제가 남아있다는 점도 고려되어야 할 것이다.

노트

• 여기서 왜 AI 속도조절론에 대해 "계급적" 관점을 가져야 하는가에 대한 메타질문이 있을 수 있다. 왜냐하면 AI 빅테크 기업 자체가 자본 권력의 정점이자 커다란 권력이라는 인식이 있기 때문이다. 이는 자본의 이익에 더 충실하게 움직이고 있다. 그런 점에서 이것을 계급적으로 질문해봐야한다는 것.
• 안전성을 누가 결정하는가가 이번 속도조절론에 대한 가장 중요한 질문이 될 것이라 생각된다. 기술진보와 그 영향에 대한 평가들은 사실 AI 이전에 18세기 영국 맨체스터의 대공장의 도입, 컴퓨터 기술의 등장, 웹의 등장, 공장 자동화 등 이런 것들을 논의한 적이 있었나? 있다해도 평가는 항상 늦었다. 그런 점에서 이번 빅테크 업자들의 제안을 좀 더 의심스럽게 보아야 한다고 본다.

1. Amodei. "We Must Pace the Frontier". 블로그글. https://darioamodei.com/post/we-must-pace-the-frontier?utm_source=chatgpt.com [본문으로]
2. Fortune. "An ex-Anthropic researcher claims AI could kill us all by 2030. But he fails to answer the most essential question: What are we supposed to do about it?". The ex-Anthropic researcher's warning that AI could kill us all is missing something important | Fortune [본문으로]