미국의 '데모크라시 나우(Democracynow.org)'가 운영하는 진보적 유트브 채널인 'Democracy Now!'는 최근 '월스트리트'와 'MIT 테그놀로지 리뷰' 등 언론에서 AI 전문기자를 한 카렌 하오(Karen Hao)와의 인터뷰를 방영했다. 이번 인터뷰는 카렌이 펴낸 책 '인공지능의 제국(Emipre of AI)'을 주제로 진행됐다.

세계는 미국과 중국의 AI에 대한 기술적, 자본적 규모와 성능에 압도당하고 있다. 이에 우리나라도 국가적 위기감을 갖고, 이재명 정부는 출범하자마자 발빠르게 'AI수석'을 임명하고 'AI 3대 강국' 진입을 야심차게 추진하기 시작했다. 이미 AI는 우리 삶의 일부분이 되고 있다. 특히, 모르는 분야나 자세히 알지 못하는 세부 분야에 대한 자료를 찾고자 할때, AI는 기존의 구글 등 검색엔진보다 훨씬 더 편리하고 유익한 수단이 되고 있다. 또 이러한 추세는 AI의 급속한 발전과 더불어 더욱 강고해질 것으로 보인다. 

이런 상황에서 AI의 도덕적 측면을 살펴 보고, 보다 인간적인 수단이 되도록 노력하는 일 또한 중요한 일이다. 우리나라가 경제적으로 선진국에 진입했을 뿐아니라, 민주주의적 가치에 있어서도 세계를 선도해 가는 위치에 있기 때문이다. 이러한 면에서, '인공지능의 제국' 저자의 생각을 살펴볼 필요가 있다.

카렌은 언론인들에게 AI를 다루는 방법을 훈련시키는 프로그램의 일환으로, 퓰리처 센터(Pulitzer Center)의 'AI Spotlight Series Program'을 이끌고 있다. 그리고, 이 책에는 'Dreams and Nightmares in Sam Altman's Open AI'라는 부제가 붙어 있다. 저자는 샘 알트먼의 'Open AI'를 중심으로, AI산업의 발전을 과거 식민지 시대와 비교했다. 그 때처럼 명백한 잔인성을 보이는건 아니지만, 제 AI의 발전을 위해서 예술가들과 작가들의 귀중한 자원를 데이타로서 탈취하며, 이는 피해를 당한 경험과 관찰을 온라인상에 게재하는 수많은 이들에 의해 증명된다. 한 AI 전문가가 훈련에 필요한 데이타를 먼저 갖다 쓰고 나중에 깨끗이 지우라고 조언하는 것을 유트브 방송에서 직접 들은 일도 있다.

뿐만 아니라, 일찌기 경험해 보지 못한 거대한 데이터센터를 가동시키기 위해, 토지, 물, 에너지등에서도 상당히 큰 사회적 부담을 지을수 있다는 점도 상기시키고 있다. 카렌의 책은 최근 미국 공화당이 하원에서 AI의 발전에 대한 주정부 차원의 규제를 차단하는 법안을 통과시켜서, AI 업계에 큰 선물을 안긴 때에 출판됐다. 한 공화당 의원은 온라인상에서 자기가 이 법안에 찬성표를 던졌지만 그러한 내용이 있는지 몰랐으며, 이 법은 미국 각 주의 권리를 위반하는 것으로서 반대표를 던졌어야 했다고 공언했다.

카렌은 특별히 챗지피니(ChatGPT)를 중심으로 AI의 발전과 이후 실리콘밸리가 추구해온 길, 즉 어떤 비용을 치루더라도 규모를 키워야 한다는 방법에 대해 먼저 비판하고 있다. AI훈련을 위해서, 지난 수 년간 OpenAI를 비롯한 실리콘밸리는 폭발적으로 많은 데이타와 계산능력을 사용해 왔다. 이를 위해 인터넷상의 거의 모든 영어 데이터, 책, 과학 논문, 그리고 지적 재산을 이용하고, 수십만개의 칩과 미국 한 개 시의 에너지 소요에 해당하는 엄청난 에너지로 구동되는 슈퍼컴퓨터에 의존해 왔다. 세계적 경영 자문회사인 맥킨지의 보고에 따르면, 현재의 추세라면 AI의 훈련에 다음 5년 내에 캘리포니아주 전체의 에너지 소모의 2~6배의 에너지를 소모할 것이며, 이를 대부분은 화석 에너지에서 충당할 전망이다. 이는 지구 온난화에 매우 부정적 영향을 미칠 것이다. 가동을 중지시키기로 예정된 석탄 발전소가 생명을 연장하고 있으며, 허가받지 않은 메탄 기체 터빈도 새로 사용될 것이라고 한다. 또한, 이 데이터센터들은 식수 수준의 신선한 수원을 필요로 한다. 그렇지 않으면, 박테리아의 번식을 유발하여 고성능 기기를 부식시킬수 있기 때문이다. 최근 다른 세계적 기업인 블룸버그에 따르면, 세계 데이터센터의 3분의 2는 물이 부족한 곳에 설치되고 있으며, 당연히 이는 식수에 대한 수요와 충돌하는 문제를 일으킨다.

다음, AI의 군사적 면을 살펴 보자. AI 회사들은 차세대 국방 부문에 매우 많은 계약을 할 것이다. 이는 AI 회사들이 수천억 달러에 해당하는 엄청난 재정적 부담을 충당하기 위해 거대한 국방 산업에 기대려 하기때문이다. 또한, 미국 정부도 실리콘밸리를 이용하려고 하므로 이런 연계는 매우 자연스러운 일이 되어 가고 있다. 그러나 저자는 이런 AI들은 민감한 국방 문제에 사용되기 위한 목적으로 만들어진 것이 아니라고 설명한다. 미국과 중국이 서로를 견제하기 위한 전략적 목적에서 AI 기술을 경쟁적으로 발전시키고 있어서, AI의 윤리적 문제가 소홀히 되고 있다는 점은 이미 경고했다.

칠레에서는 오랜 독재 정권하에서 대부분의 공공자원을 사유화하였으며, 여기엔 식수도 포함된다. 이로 인해 수도인 산티아고의 광역지역에 하나뿐인 공공 식수원은 비상시에 칠레 전국에도 사용되기로 예정되어 있다. 최근 바로 그 곳에 구글이 데이터센터를 설치하기로 결정했으며, 해당 지역 주민이 사용하는 식수의 수천 배의 물을 연간 사용할 전망이다. 구글은 이 지역에 세금을 한 푼도 내지 않고, 대신 데이터센터를 등록한 사무실이 위치한 곳에 세금을 내기로 되어 있다고 한다. 이를 알게된 지역의 사회활동가가 이에 제동을 걸고, 지역주민에게 적절한 혜택을 주지 않으면 이를 결코 허락할수 없다고 나섰다. 이 활동가는 일일히 지역주민들의 문을 두드려 이 사실을 알렸고, 결국 지역 주민 전체의 문제로 확대됐다. 이에, '구글 칠레', '구글 산악지역(Mountain View)', 그리고 칠레 정부까지 이 문제 해결에 대한 실마리를 찾기 위해 함께 나서게 되었다. 결국, 주민의 뜻에 따라 이 계획을 5~6년간 연기하고, 그 사이에 구글측과 협상하기로 결정했다. 이 문제 그 자체뿐 아니라 AI 회사와 주민과의 협상 과정은, AI 데이터 센터를 유치하고자 노력하고 있는 우리의 지방자치단체들에게 매우 중요한 시사를 한다.

또한, 데이터를 AI 훈련에 이용하기 전에 소위 '데이터 순화 (data annotation)'를 하고 있는데, 중간단계의 회사들이 아프리카의 케냐와 같은 영어권 개발도상국가의 주민을 고용하여 처리하고 있다. 이는 인터넷 데이터의 상당량이 인종주의 등으로 심하게 오염되어 있어서 사전에 제거 또는 순화해야 하기 때문이다. 이때, 케냐의 노동자들은 심하게 오염된 글들뿐 아니라, AI 모델이 생산하는 나쁜 글들도 읽어야 한다고 한다.  이 글들을 성적인 문제, 폭력성등 분야별로 분류하는 작업도 이들의 노동을 통해 이루어지며, 그 과정에서 이들은 시간당 단돈 수 달러를 지불받으며 정신적 삶이 파괴당한다. 이런 정신적 고통을 직접 경험하지도 않은 AI 전문가들이 실리콘밸리에 앉아서 수백만 달러의 보상을 받는 것에 비하면, 이러한 방법과 처우가 과연 윤리적인가 하고 물으며, 이러한 면에서 AI는 제국주의적이라고 저자는 말한다. 원래, OpenAI는 회사 이름처럼 비영리적 목적에서 출발하였으나, 불과 1년 반만에 대규모의 투자를 통해 영리를 추구하는 기업이 되었다는 점을 저자는 상기시킨다. 따라서, AI의 성과에 따른 경제적 이익이 미국의 경우처럼 극소수에게 집중되도록 그냥 방관할 것인지 우리도 지금부터 물어야 한다. 또한, AI 훈련에 막대한 에너지, 식수, 정신적 황폐화가 소요되는 점을 어떻게 해결할 것인지에 대해서도 또한 지금부터 진지하게 토론해야 한다 . 'AI 3대 강국'의 길에 미처 생각해 보지 않은 도전적 문제들도 있다는 것에도 대비해야 한다. 이는 대통령에서부터 국민 한 사람 한 사람까지 모두 깊이 성찰해야할 숙제를 던진다