생성형 AI 시대가 열렸다. 업무와 학습은 물론 제품 생산과 판매에서 AI 기술을 활용하면 최적의 해답을 신속하게 제시해준다. 주요 선진국은 AI 기술 개발과 도입에 적극 나섰다.

우리나라도 이러한 흐름에 뛰어들고 있다. 하지만 AI 서비스의 도입이 장밋빛 미래만을 보여주는 것은 아니다. 창의성이 부족하고, 부정확한 정보를 비롯해 악의적으로 조작된 정보는 개인의 피해와 사회적 혼란을 초래하기 때문이다.

AI 기술에 따른 부작용을 막지 못하면, 사회의 발전을 저해하고, 갖가지 문제점과 범죄로 이어지는 판도라의 상자가 열린다는 우려의 목소리가 크다. 이런 점에서 AI 기술만큼 큰 변화를 가져온 산업혁명 시대의 문제점을 살펴보고, 향후 AI 서비스가 초래할 위협과 대책을 고민할 때다.

18세기 영국에서 시작된 산업혁명은 기계를 도입한 대규모 공장제 생산 방식을 기점으로 농업과 신분제 위주의 봉건사회로부터 탈피하는 획기적인 변화를 초래했다.

먼저 정치적 변화는 민주주의의 정착이다. 자유를 찾아 도시에 모인 시민의 갈등은 내전으로 큰 피해를 불러왔다. 이에 대표를 선출하는 공화제, 합의와 토론 방식의 정당 정치를 발전시켰다.

다음에 경제적 변화는 자본주의의 채택이다. 기업의 자유 경쟁이 혁신으로 이어졌고, 성장을 가져왔기 때문이다. 하지만 시장의 독점과 빈부격차 확대가 사회에 불안을 초래했다. 그러자 사회적 안전망인 복지 제도를 강화함으로써 슬기롭게 극복했다.

그리고 여러 지역에서 모인 시민의 통합을 위해 의무 교육을 확대했고, 대중매체(mass media)로 정보와 지식을 공급했다.

오늘날 AI 시대의 특징과 사회적 위협은 무엇인가? 우리는 스마트폰과 인터넷으로 국내는 물론 세계적으로 언제나 연결된 유비쿼터스(ubiquitous) 시대를 살고 있다. AI 알고리즘이 적용된 소셜 미디어는 개인에게 편향된 정보와 지식을 제공한다. 새로운 문제가 발생했다.

시민들은 24시간 미디어를 이용해 어느 시대보다 더 많은 콘텐츠를 수용하여 똑똑하다고 맹신하지만, 실제로는 똑같은 생각을 온종일 반복 시청하는 셈이다. 우리가 가장 현명한 AI에 의존하여 비슷한 주장을 접하면서 사고의 편향성을 심화시킨 결과는 ‘똑똑한 바보’가 되었다는 것. 자신이 모든 것을 다 알기에 다른 의견을 듣지 않아 고칠 기회도 놓치기 때문이다.

사회적인 대책은 AI가 제공하는 콘텐츠의 덫에 걸리지 않도록 안전판을 시급히 마련하는 것이다. 첫째, 보수와 진보 진영의 대립과 갈등, 양극화를 완화하기 위한 정치적 안전판이 요구된다. 일부 유튜버는 더욱 많은 가입자수, 조회수를 확보하기 위한 발언과 영상으로 시민의 감정을 자극하고, 폭력을 선동한다는 지적을 받고 있다. 미디어의 AI 활용에서 특히 상대방에 대해 폭력과 혐오, 차별을 선동하는 행위를 엄격히 제한해야 한다.

둘째, 경기 침체와 소비 부진으로 고통을 겪는 자영업자와 노동자, 청년 실업자, 저소득 퇴직자 등에 대한 경제적 안전판을 강화해야 한다. 기업의 활력이 떨어지고, 노동자의 소득이 감소하면, 소비와 생산, 고용, 소득의 감소 구조가 악순환하기 때문이다. AI 확대로 늘어난 이익을 AI로부터 소외된 시민의 삶을 돕는 데 활용할 필요가 있다.

셋째, 시민이 AI 기술과 문화의 변화로 스트레스 임계치를 초과하지 않도록 심리적·신체적 안전판을 제공해야 한다. AI 알고리듬이 적대적 콘텐츠로 시민의 분노 감정을 끊임없이 일으키면 개인의 건강과 사회의 안전에 부정적으로 작용한다. 콘텐츠는 정신의 양식이다. AI 알고리듬은 다양한 지식을 균형되게 공급해 시민의 판단과 행동이 건전하도록 구성돼야 한다.

요컨대 AI 시대의 혜택은 누리되 부작용을 줄이는 노력이 시급하다. 개인과 공동체, 국가 차원에서 AI 기술의 부작용을 줄이는 논의가 활발하기를 바란다.

이진로(영산대 자유전공학부 교수)