BBC발 이란 전쟁 AI 영상 급증 뉴스? 코웃음이 나온다. AI 기술의 '발전'이라는 포장지를 뜯어보면 결국 돈 냄새 맡은 하이에나 떼들이 뒷구멍 파는 짓거리일 뿐이다. 조회수 몇 푼 벌겠다고 국제 정세를 뒤흔들 가짜 영상을 찍어대는 놈들은 기술 발전의 '수혜자'가 아니라 사회 암적인 존재다.
이런 상황은 이미 예견됐었다. LLM 기반의 텍스트-이미지 생성 모델들이 쏟아져 나오면서 누구나 손쉽게 '그럴듯한' 영상을 만들 수 있게 됐다. 문제는 '그럴듯함'이 진실과는 거리가 멀다는 점이다. 몇 번의 클릭만으로 가짜 폭격 장면, 조작된 인터뷰, 날조된 뉴스 속보를 만들어낼 수 있다. 과거에는 상상도 못 했던 일이 이제는 클릭 몇 번으로 가능해진 것이다.
특히, 유튜브나 틱톡 같은 플랫폼은 이런 쓰레기 콘텐츠의 온상이 되기 쉽다. 알고리즘은 '자극적인' 콘텐츠를 우선적으로 노출시키고, 조회수가 올라갈수록 광고 수익은 눈덩이처럼 불어난다. 결국, 돈에 눈이 먼 제작자들은 더욱 자극적이고 선정적인 가짜 영상을 만들어낼 유인이 생긴다. 문제는 이들이 사용하는 기술이 점점 더 정교해지고 있다는 점이다. 과거에는 어색했던 AI 생성 영상들이 이제는 전문가가 아니면 구별하기 어려울 정도로 발전했다.
이런 상황은 단순히 '가짜 뉴스' 문제로 치부할 수 없다. 가짜 전쟁 영상은 국제 관계를 악화시키고, 여론을 호도하며, 심지어 실제 전쟁을 촉발할 수도 있다. 과거에도 잘못된 정보 때문에 벌어진 비극적인 사건들이 얼마나 많았는지 우리는 잊지 말아야 한다.
그렇다면 어떻게 해야 할까? 우선 플랫폼 사업자들의 책임이 막중하다. 알고리즘을 개선하여 가짜 영상의 노출을 최소화하고, 적극적으로 콘텐츠 검열에 나서야 한다. 물론, 표현의 자유를 침해하지 않는 선에서 말이다. 하지만 돈벌이에 눈이 멀어 사회적 책임을 방기하는 플랫폼은 비판받아 마땅하다.
다음으로, AI 기술 개발자들은 윤리적인 책임을 져야 한다. 가짜 영상 제작을 방지하는 기술적 안전장치를 마련하고, 악용 사례를 감시해야 한다. 물론, 완벽한 해결책은 없겠지만, 최소한의 노력은 기울여야 한다. 현재 구글이나 오픈AI 같은 거대 기업들은 윤리적인 AI 개발을 외치고 있지만, 실제로는 뒷구멍을 막는 데 소극적인 모습이다.
마지막으로, 투자자들은 돈 냄새만 쫓지 말고, 기술의 윤리적인 사용에 대한 고민을 해야 한다. 무분별한 투자는 결국 사회적 문제를 야기하고, 장기적으로는 투자 수익에도 악영향을 미칠 수 있다. 물론, '착한 투자'만으로는 돈을 벌기 어렵다는 현실적인 어려움이 있지만, 적어도 '악한 투자'는 피해야 한다. 돈 몇 푼 더 벌겠다고 사회를 망치는 짓은 하지 말자는 것이다.
현재 상황은 19세기 말, 언론 재벌들이 선정적인 기사를 쏟아내며 전쟁을 부추겼던 '황색 저널리즘' 시대를 연상시킨다. 당시에도 언론의 자유라는 명목하에 무책임한 보도가 횡행했고, 결국 사회 전체가 큰 피해를 입었다. 우리는 과거의 교훈을 잊지 말아야 한다. AI 기술의 발전은 분명 긍정적인 측면도 있지만, 동시에 엄청난 위험을 내포하고 있다. 지금이라도 늦지 않았다. 가짜 전쟁 영상을 만들어 돈을 벌려는 사기꾼들을 싹 다 잡아들이고, AI 기술의 윤리적인 사용에 대한 사회적 논의를 시작해야 한다. 그렇지 않으면 우리는 더 큰 재앙을 맞이하게 될 것이다.