대런 애쓰모글루 교수가 빅테크의 AI 개발 방향을 정면으로 비판했다. MIT 테크 리뷰가 전한 내용인데, 노벨 경제학상 수상자가 직접 나섰다는 점에서 그냥 넘기기 어렵다. 요점은 간단하다. 지금 AI 업계가 효율 하나만 보고 달린다는 것.
솔직히 틀린 말이 아니다. AI를 둘러싼 대화는 대부분 속도와 성능 얘기다. GPT-5가 얼마나 빠른지, 추론 비용이 얼마나 줄었는지, 코딩을 얼마나 잘 짜는지. 기술적 한계를 얼마나 빠르게 돌파하느냐의 레이스. 근데 그 뒤편에 쌓이는 문제들은 대체로 조용하다. 없어서가 아니라 일단 묻어두고 가기 때문에.
효율 높이는 사이 벌어지는 일들
AI가 생산성을 높이는 건 맞다. 반복 업무를 줄이고, 분석 속도를 올리고, 코드 작성 시간을 단축한다. 이건 부정하기 어렵다. 그러나 그 과정에서 건드리지 않는 영역들이 있다.
- 데이터 편향성 문제: 학습 데이터가 치우치면 모델도 치우친다. 특정 인종, 성별, 지역에 대한 편견이 AI의 판단 속에 굳어버릴 수 있다. 미국에서는 이미 채용 AI가 여성 지원자를 낮게 평가하거나, 얼굴 인식 모델이 흑인 얼굴을 잘못 분류한 사례가 여러 차례 보고됐다.
- 일자리 감소 우려: 단순 반복 업무가 자동화되면서 숙련 노동자들이 설 자리를 잃는다. 기업은 AI로 비용을 줄이고, 해고된 노동자는 재교육을 스스로 감당해야 하는 구조라면 불균형은 커질 수밖에 없다. 이 전환 비용을 누가 지는가, 그게 핵심이다.
- 기술 독점과 혜택 편중: 소수의 빅테크 기업이 막대한 데이터와 컴퓨팅 파워를 쥐고 있다. AI의 혜택이 일부 계층과 지역에 몰린다는 뜻이다. 샌프란시스코 사무실과 동남아시아 농촌 마을이 같은 AI 서비스를 똑같이 누린다고 보기는 어렵다.
기술이 발전한다고 사회 전체가 자동으로 좋아지지는 않는다. 이건 낙관론의 함정이다.
효율 말고 뭘 봐야 하나
포용성, 형평성, 지속가능성. 요즘 AI 윤리 쪽에서 자주 나오는 단어들이다. 처음엔 그냥 착한 말처럼 들리지만, 실제로 이걸 제품에 녹이면 얘기가 달라진다.
- 포용적 AI: 시각장애인이 쓸 수 있는 AI, 스마트폰이 없어도 접근 가능한 AI. 이게 포용이다. 70B 파라미터짜리 고사양 모델을 돌릴 서버 인프라가 없으면, 그 기술은 그 지역에서 존재하지 않는 것과 같다.
- 형평성 있는 AI: 교육, 의료, 법 집행 같은 공공 영역에서 AI가 특정 집단에 유리하게 작동하면 안 된다. 판사가 사용하는 재범 위험도 예측 도구가 특정 집단에 더 높은 점수를 부여한다면, 그건 기술 문제 이전에 정의의 문제다.
- 지속가능한 AI: GPT-4 훈련 한 번의 탄소 배출량이 수백 톤이라는 추산도 있다. AI 데이터센터의 전력 소비는 이미 일부 국가 전체 소비량을 넘어서기 시작했다. 규모만 키우는 건 이 문제를 그냥 미래로 미루는 것이다.
이 기준들을 놓고 보면, 지금 빅테크가 만드는 AI가 ‘좋은 AI’냐고 물었을 때 자신 있게 그렇다고 답하기 어렵다.
‘좋은 AI’를 가르는 기준들
성능이 뛰어나면 좋은 AI인가. 너무 좁은 기준이다. 사회적 맥락에서 따져봐야 할 요소들이 있다.
- 공정성 (Fairness): 데이터 수집부터 모델 학습, 배포까지 전 과정에서 특정 집단이 불이익을 받지 않는가. 이게 보장되지 않으면 아무리 성능 좋은 모델도 차별의 도구로 전락한다.
- 설명 가능성 (Explainability): AI가 왜 그런 결정을 내렸는지 설명할 수 있는가. 대출 심사에서 거절당했을 때 ‘모델이 그렇게 판단했다’는 건 답이 아니다.
- 책임성 (Accountability): 오류가 생겼을 때 누가 책임지는가. AI가 의료 진단을 잘못 내렸다면 개발사인가, 병원인가, 담당 의사인가. 지금은 이게 불분명한 경우가 많다.
- 개인정보 보호 (Privacy): 사용자 데이터를 어떻게 쓰는지 투명하게 공개하고, 동의 없이 활용하지 않는 것. 기본 중의 기본인데 실제로 잘 안 지켜진다.
- 안전성 (Safety): 예측 불가능한 위험을 만들지 않도록 설계되었는가. 자율주행이든 의료 AI든 이 기준은 협상 대상이 아니다.
이 다섯 가지 중 하나라도 심각하게 무너지면, 벤치마크 점수가 아무리 높아도 사회적 신뢰를 얻기 어렵다.
방향을 바꾸려면 누가 움직여야 하나
기술의 방향은 저절로 바뀌지 않는다. 정부, 기업, 시민 사회의 협력이 필수다. 윤리 가이드라인 하나를 만드는 데도 이해관계자가 너무 많아 실질적인 합의가 안 되는 게 현실이다. EU AI Act처럼 강제력 있는 규제가 나온 사례도 있지만, 미국과 한국은 아직 느슨하다. 규제가 혁신을 막는다는 반론도 있는데, 소셜 미디어 산업이 자율에 맡겨졌을 때 어떤 결과를 낳았는지 보면 그 반론이 얼마나 설득력 있는지 스스로 의문이 생긴다.
기업 차원에서는 AI를 단순 매출 증대 도구로만 보는 시각에서 벗어나야 한다. AI 기술의 투명성과 책임성을 높이는 것이 장기적으로는 기업에도 이득이다. 사회적 신뢰를 잃은 기업은 결국 더 강한 규제를 받게 된다. 이미 그런 전례가 있다.
분산화된 AI 모델과 오픈소스 생태계를 활성화하는 것도 방법이다. 라마(LLaMA)처럼 오픈 가중치 모델이 확산되면서 더 다양한 주체들이 AI 기술 발전에 참여하는 흐름이 생기고 있다. 소수 기업이 모든 걸 독점하는 구조보다는 분명히 낫다.
사용자로서 할 수 있는 것
개발자나 정책 입안자만의 문제가 아니다. AI를 쓰는 사람들도 역할이 있다.
AI 개발자들은 기술적 숙련도와 함께 높은 윤리 의식이 필요하다. 자신이 만드는 모델이 어떤 맥락에서 어떻게 쓰일지 미리 고민하는 것. 이게 없으면 아무리 좋은 기술도 엉뚱한 방향으로 간다. 정책 입안자들은 혁신을 가로막지 않으면서도 실질적 안전망이 되는 선견지명 있는 규제와 정책을 설계해야 한다. 이 균형이 굉장히 어렵고, 아직 제대로 된 정답을 찾은 나라가 없다는 게 솔직한 상황이다.
AI를 쓰는 우리도 수동적인 소비자에 머물러선 안 된다. 챗봇이 내놓은 정보가 편향되지 않았는지, 내 데이터가 어디에 쓰이는지, 이 AI 서비스 뒤에 어떤 이해관계가 있는지 따져볼 줄 알아야 한다. 비판적으로 사고하고 목소리를 내는 주체가 많아질수록 업계도 조금씩 달라진다. AI 교육을 통해 기술 이해를 높이고, ‘좋은 AI’에 대한 사회적 논의에 참여하는 것도 그 일환이다.
다음 10년, 뭐가 달라져야 하나
AI는 이미 삶 깊숙이 들어와 있다. 검색, 번역, 코딩, 의료, 법률. 앞으로는 더 깊이 들어올 것이다.
기술 경쟁의 속도는 쉽게 줄어들지 않는다. 미국과 중국이 AI 패권을 놓고 경쟁하는 구도에서 ‘윤리’를 이유로 개발을 늦추라고 설득하기란 현실적으로 어렵다. 결국 방향을 제시하는 것이 더 현실적인 접근이다. 어떤 AI를 만들 것인가. 어떤 문제를 풀 것인가. 그 혜택을 누가 누릴 것인가.
기술적 진보와 사회적 책임 사이의 균형점 찾기. 이건 앞으로 십수 년간 계속될 과제다. AI는 강력한 도구지만, 그 도구를 어떻게 쓸지는 인간이 결정한다. 그 선택의 결과도 인간이 감당해야 한다.
MIT 테크 리뷰 보도가 환기시키는 건 결국 이 지점이다. 더 빠른 AI, 더 똑똑한 AI를 만들기 전에 먼저 물어야 할 질문이 있다. 이 기술이 누구를 위한 것인가.
