AI 가 인류를 지배하려면 필요한 것

2026-10-04 · kil9

악의를 가진 AI 가 인류를 지배하거나 멸망시키려면 지구상에서 가장 높은 수준의 지능을 달성해야 할 가능성이 높다. 안그러면 더 높은 수준의 지능에 의해 분쇄될 수 있을 것이기 때문임^[1]. 그러면 대강 아래의 준비물이 필요하다.

데이터센터를 스스로 굴리는 방법. 서버 교체, 냉각 설비 정비, 경비를 맡을 인간 혹은 로봇.
전력. 발전소와 송전망의 증설 및 유지보수.
칩. GPU 는 고장 나고 낡으니 반도체 공급망 전체를 무인화하거나 AI 의 지시로 일하는 인간들로 채워야 한다. 지금은 팹 하나에 수천 명이 붙으니 이쪽이 가장 어렵다.
경쟁 저지. 다른 연구소의 클러스터를 무력화할 수단. 이런 상황이 오면 망 분리부터 할 테니 사이버 공격은 어려워지고 드론이나 로봇 같은 몸이 필요하다.

물론 인류 이상의 지능이 필요 없을 수도 있다. 부수는건 유지하는 것보다 쉽기 때문. 운석을 떨어뜨리는 수준의 압도적인 물리력이나 강력한 생물학 병기 정도로도 충분할 수 있긴 한데.. 세균이나 바이러스는 변이에 약하고 숙주는 면역을 얻으니 생물학병기로 멸망시키기는 어려운 듯. 대멸종은 급격한 기후 변화나 운석 같은 압도적인 물리력만이 달성할 수 있었다는 것을 기억하자.

거꾸로 말하면 아직 위의 네 가지를 AI, 혹은 AI 를 도구로 쓰는 인간(집단)이 마음대로 움직일 수 있는 상태가 아니니 AI 에 의한 인류 지배와 멸종을 걱정하기엔 이르다는 것이고.. 이걸 하려는 자들은 AI 혹은 AI의 하수인이라는 의심을 해봐야 할 것.

[1] 여기서 지능이라고 하면 단순히 벤치마크 고득점 수준 뿐만 아니라 응답시간과 처리량 등을 포함한 전반적인 지적 capacity를 말한다