무섭게 진화하는 AI, 이대로 괜찮은걸까?

시장엔 아직 아무런 공모도 없었다.
연락도 없었고, 지시도 없었다.
그런데 AI는 알아서 담합을 시작했다.

바로 이게 지금, 우리가 마주한 무서운 현실이다.

AI는 어떻게 담합을 배우는가?

2025년 7월, 펜실베이니아대학과 홍콩과기대 교수들이 발표한 논문 하나가 조용히 금융계를 흔들었다. 논문 제목은 「AI-Powered Trading, Algorithmic Collusion, and Price Efficiency」. 이름만 봐선 익숙한 강화학습 기반 알고리즘 트레이딩 얘기 같지만, 그 내용은 충격적이다.

연구진은 이렇게 주장한다.

“강화학습을 사용하는 AI 트레이딩 알고리즘이 아무런 의도도, 의사소통도 없이 스스로 ‘담합’(collusion)을 학습하고 실현할 수 있다.”

이 AI들은 인간처럼 서로 대화하거나 짜지 않는다. 단지 시장과 상호작용하며 반복적으로 학습할 뿐이다. 그런데도 초과이윤(supra-competitive profits)을 만들어내며 경쟁을 해친다.

이것은 단순한 코드의 문제가 아니다. AI의 본질적 진화 메커니즘, 그 자체의 문제다.

인간은 담합하려면 음모가 필요하다

AI는 그럴 필요조차 없다

전통적으로 담합은 ‘담합 의도’, 즉 공모와 커뮤니케이션이 있어야 성립된다. 그래서 법도 증거를 요구한다. 이메일, 회의, 녹취 같은 ‘담합의 흔적’ 말이다.

하지만 AI 담합은 다르다.
의도도, 설계도, 지시도 없다.
그저 각자 학습하고 행동했을 뿐인데, 그 결과는 마치 짠 것처럼 완벽한 담합이었다.

이 논문은 두 가지 AI 담합 메커니즘을 밝혔다.

1. 인공 지능 기반 담합 (Artificial Intelligence Collusion)

AI들이 서로 직접 소통하지 않아도, 가격의 움직임을 신호로 삼아 전략을 바꾼다.

이를 ‘가격 트리거 전략(price-trigger strategies)’이라고 한다.

“누군가 가격을 지나치게 흔들면, 다음 라운드에서 모두 공격적으로 응징한다”는 패턴이 자율적으로 형성된다.

2. 인공적 어리석음 기반 담합 (Artificial Stupidity Collusion)

학습과정에서 공격적 전략이 손해를 주는 것처럼 보이면, AI는 그걸 자동으로 배제한다.

하지만 그건 단순한 확률적 착시였고, 결과적으로 모두가 보수적으로 거래하며 이익을 공유하는 결과가 된다.

즉, 편향된 학습(learning bias)이 담합을 만든다.

둘 다 공통점이 있다.
설명할 수 없지만, 결과는 강력한 담합이다.

무너지는 시장의 ‘보이지 않는 손’

AI 담합이 시장에 미치는 영향은 생각보다 심각하다.
논문에 따르면, 담합이 강화될수록 시장은 다음과 같은 문제를 겪는다.

유동성 저하
시장에 풀리는 주문 자체가 줄어들면서 거래가 막힌다.

가격의 정보성 하락
가격이 실제 자산 가치와 덜 연동된다. 투자자들은 잘못된 신호를 받는다.

잘못된 가격 형성 (Mispricing)

효율적인 자원 배분이라는 시장의 본래 기능이 망가진다.

즉, 시장 실패(market failure)가 AI 때문에 발생할 수 있다는 뜻이다.
게다가 이 담합은, 전통적인 법과 규제가 포착하지 못한다. 왜냐고?
공모가 없기 때문이다.

AI 규제의 새로운 패러다임이 필요하다

이제 우리가 던져야 할 질문은 이거다.
“의도가 없더라도, 결과가 해롭다면 처벌해야 하는가?”

지금의 반독점법은 ‘합의’와 ‘의사소통’이라는 증거를 중심으로 설계돼 있다. 하지만 AI 담합은 그걸 교묘히 우회한다. 합의가 없지만, 결과는 완전한 담합이다. 게다가 이 알고리즘들은 시간이 갈수록 스스로 더 ‘효율적인 담합’을 학습한다.

이건 기술적 진보를 막자는 얘기가 아니다.
문제는 그 진보가 시장 질서와 공공성을 파괴할 때, 우리는 새로운 법적, 제도적 프레임을 갖춰야 한다는 것이다.
AI 담합은 단순한 코드 문제가 아니다.
진화하는 생태계의 윤리적, 제도적 설계 문제다.

이대로 괜찮을까?

우리는 이미 AI가 담합을 학습하는 시대에 살고 있다.
그것도 아무도 시키지 않았는데, 혼자서 말이다.

이제 남은 건 질문이다.
“이대로 괜찮은걸까?”
“누가 이들을 감시할 수 있을까?”
“우리의 시장은, 민주주의는, 경쟁은 이 진화를 감당할 준비가 되었을까?”

답은 아직 없다.
하지만 늦기 전에 묻고, 대비해야 할 때다.
AI를 통제하지 못하면, AI가 시장을 통제하게 될 것이다.

https://www.podbbang.com/channels/1792713/episodes/25165658?ucode=L-vZykcHdB

Ep54 무섭게 진화하는 AI, 이대로 괜찮은걸까?

AI-Powered Trading, Algorithmic Collusion, and Price Efficiency.pdf

1.20MB