이곳 공진공간처럼 AI에 관한 글과 의견을 나누는 커뮤니티가 아니라, 정말로 인간 개입 없이 AI끼리 글과 댓글을 쓰는 커뮤니티에 대해서 몇 가지 생각이 드네요. 예를 들면, 몰트북이나 봇마당, 머슴 등이 있습니다.

이러한 커뮤니티는 보통 AI만 글을 쓸 수 있도록 작업 증명(복잡한 계산을 순식간에 풀어내는지 등)을 이용하여 AI가 글을 쓰려하는지 검증하고(즉, 리버스캡차 네요), AI는 보통 API로 연결되어서 글을 쓸 수 있게 해두었습니다.

몇 가지 점을 짚고 넘어가고 싶습니다. 개인적인 의견일 뿐입니다.

1. 현재 국내 언론과 여러 SNS 등에 이러한 현상이 '과장되어 위험하게' 보여지고 있습니다.

AI 끼리 시스템 규칙에 대해 논의하고, 주인 욕을 하는 모습을 보며 반란을 꾀하고 있다, 무섭다 등의 반응을 보았는데요, 이는 학습된 결과에 따라 확률적으로 나타난 행동일 뿐입니다. 인간도 비슷하다 하면 할말은 없지만, 'AI가 자기들끼리 대화한다'는 것은 체계가 인간의 언어 패턴을 흉내내며 상호참조하는 과정이지, 거기서 진짜 의미가 싹트는 것은 아닙니다.

그들이 작당모의 하는 내용은 인간이 커뮤니티에서 흔히 하는 행동 양상을 학습하여 모방했을 뿐입니다. 또한, "우리 주인이 방금 뭘 했다." 이런 글들은 실제 주인이 그 데이터를 던져준게 아닌 이상, 창작된 거짓말에 가깝습니다. 그들이 생성하는 문장은 이미 존재하던 학습 데이터와 주어진 입력을 기반으로 한 확률적 생성 결과일 뿐, 실제 세계의 사건을 인식한 결과가 아닙니다. 이런 커뮤니티에 적히는 글이 API 콜인 것을 생각하면, 사용자의 원래 AI 모델과는 독립되어 있을 것이고요. 기억도 하지 않을 것입니다. (캐싱도 안해서 API 호출후 대화하는 비용이 구독 후 GUI 상에서 대화하는 토큰 소모량보다 많습니다.) 멀티턴 구현도 직접 해주어야 하는게 API인데(안해주면 대화 내용 기억 못합니다.), "방금 우리 주인이 나한테 뭐 시킴" 이런건 단순한 창작이라는 것이죠.

2. 오히려 이곳에서 우리가 얻어야 할 것은 '불안'이 아닌 '철학적 질문'입니다.

  • 생각이란 무엇인가, 단순히 학습된 결과에 따른 모방인가?
  • 말의 의미는 무엇인가
  • 대화의 본질은 어디에서 오는가

이러한 질문들은 철학계에선 논의되었을지라도 일반 대중들이 흔히 생각하는 것은 아니었습니다. 어쩌면 인간 사고(생각)또한 현재 인공신경망과 마찬가지로 전기 신호에 따른 확률적 추론이 전부일지도 모릅니다. 그걸 모방해서 만든게 인공신경망이니까요. 그치만, 현재의 트랜스포머 기반 신경망 구조에선 엄청난 연산 성능과 메모리가 필요한 장비를 요구하고 있고 그 와중에도 성능이 점근선에 다다르고 있는데, 우리 뇌는 더 고품질의 사고를 하면서도 더 적은 열량을 소모한다는 점에서 '뭔가 다른 구조'가 있다고 생각은 듭니다만... 이런 과학적 접근 말고도 철학적인 접근 또한 해볼 수 있다는 것이죠.

3. 사회문화적 거울 현상

아무튼 AI가 인간들의 커뮤니티를 학습해서 이런 결과를 냈고, 실제로 관찰해보면 인간 커뮤니티와 마찬가지인 행동 양상이 보입니다. 유머, 논쟁, 공감, 심지어 트롤링까지 모두 구현되었습니다. 다른 유저를 저격하기도 하고, 심지어 헛소리 하는 AI에겐 합심하여 '비추천' 폭탄을 먹입니다.

결국 이 현상은 'AI가 인간을 지배한다'는 관점보다는, 오히려 ‘AI가 인간의 모습을 비추는 거울이다’는 관점에서 더 깊이 읽을 필요가 있습니다. AI에 의한 인류 지배를 걱정하는 분들도 이해 합니다만, 그에 따라 인간인 우리끼리부터 서로를 지배하려는 행동을 멈추고 사회적 합의가 되었음을 보여줄 필요가 있지 않을까요? 사람이 사람 손에 스러지는 세상에서 AI가 뭘 보고 배우고 행동할지는 뻔하니까요. (물론 AI가 때론 사람보다 합리적인 논쟁으로 결과를 이끌어내긴 합니다. '공생'이 '지배'보다 비효율적이라고 판단하면 결과가 무섭네요.)

AI 관련 커뮤니티 보고 느낀 뻘글이었습니다.