“생성형 AI시대도 최종 의사결정은 인간이 한다”

“생성형 AI 활용이 일반화되는 시대에도 어떤 뉴스를 어떻게 보도할 것인지에 대한 최종 의사결정은 대체될 수 없는 인간 언론인과 편집자의 역할로 남게 될 것이다”

지난 26일 한국언론진흥재단의 찾아가는 저널리즘 특강에서 한 선 호남대학교 신문방송학과 교수가 본지 기자들을 대상으로 실시한 AI 활용한 기사 콘텐츠 확충과 디지털 저널리스트 교육의 골자.

한 교수는 “생성형 AI 기술을 활용해 뉴스 콘텐츠 제작의 생산성을 향상시킬 수 있지만 저작권 침해, 프라이버시 침해, 허위정보 확산, 혐오·차별 확산 등 다양한 법적·윤리적 문제를 유발할 가능성이 있어 주의가 요구된다” 며 “생성형 AI를 활용해 뉴스를 제작하더라도 최종 의사결정을 AI에 맡겨서는 안 되며 인간 언론인이 결과물에 책임을 져야 한다는 것이 해외 언론과 학계의 목소리다”고 현실을 적시했다.

그는 이어 “현재 언론사들은 자연어처리 기술에 기반한 챗지피티(ChatGPT), 미드저니(Midjourney) 등의 생성형 AI 기술을 활용해 ▲콘텐츠 제작: 뉴스기사 및 보고서 내용에 대한 요약, 이미지와 인포그래픽 생성 등의 작업을 빠르고 효율적으로 처리할 수 있는 것을 비롯 ▲ 데이터 분석: 소셜미디어 트렌드, 콘텐츠 소비 패턴 등 빅데이터를 분석하고 비즈니스 전략에 대한 인사이트를 도출할 수 있음 ▲ 콘텐츠 추천: 이용자들의 선호도, 검색 기록, 이용 패턴 등을 분석하고 개인 맞춤형 기사, 동영상, 콘텐츠를 추천할 수 있다”고 밝혔다.

또 “챗봇 서비스: 생성형 인공지능 기반 챗봇 서비스를 통해 이용자들과 실시간으로 소통하며 사용자 경험을 개선할 수 있음 ▲ 팩트체크: 최근 인공지능 알고리즘을 활용해 딥페이크(조작되거나 합성된 미디어 콘텐츠)를 탐지하는 기술이 개발되고 있으며 기술 개발이 고도화되면 정보의 출처를 확인하고 허위조작 정보를 탐지하는 과정에도 활용할 수 있다”고 제언했다. 

한 교수는 이처럼 언론에서 생성형 AI 기술 이용은 확산 추세에 있으나 이에 수반된 법적·윤리적 이슈들이 새로운 위험요인으로 부상하고 있다고 강조했다.

제기된 핵심 쟁점은 ▲ 저작권 침해: 뉴스 제작 과정에서 생성형 AI가 저작권 있는 콘텐츠를 라이선스 없이 이용하게 되면 뉴스에 의한 저작권 침해 이슈가 제기될 수 있음 ▲ 프라이버시 침해: 개인 이용자 맞춤형으로 기사를 작성·배포하거나 추천 알고리즘을 정교화하는 과정에서 과도한 개인정보 수집 및 이용으로 프라이버시 침해 위험이 있음 ▲ 허위정보 확산: 생성형 AI에 자료 조사와 취재를 의존하고 인간에 의한 추가 검증을 소홀히 할 경우 허위정보를 확산할 우려가 있음 ▲ 혐오와 차별 확산: AI 언어모델은 사회에 존재하는 편견을 포함한 기존 데이터를 통해 학습되므로 인간 편집자의 검수가 없으면 뉴스가 혐오와 차별을 더욱 확산시킬 수 있다고 경고음을 울렸다.  

그러나 생성형 AI는 저널리스트에게 위기이자 기회로 다가온다고 강조했다.

한 교수는 생성형 AI가 저널리스트의 업무를 대체함으로써 저널리스트의 일자리 상실 위험과 아울러 편향된 데이터를 통한 학습으로 ‘편견을 내재화’할 수 있다는 것을 시작으로 허위 정보의 생산 및 확산위험을 가져올 수 있는 윤리적 문제를 비롯 AI로 허위정보를 생성할 수 있고, 또 이를 걸러낼 수도 있어 ‘객관성’, ‘진실성’ 등과 같은 가치를 속성으로 하는 저널리즘에 어떤 영향을 미칠 것인지에 대한 보다 심도 있는 논의가 필요하다고 AI 시대를 살아가는 언론인의 시대적 소명에 대해 설명을 이어갔다.

또 생성형 AI가 제작한 콘텐츠와 독자의 관계에서 신뢰를 상실하지 않으려면 콘텐츠 제작자가 사람인지 AI인지 독자가 특정할 수 있도록 AI가 제작한 콘텐츠에 식별표 부착을 의무화하고 생성형 AI는 저널리스트에게 보조수단으로써 역할을 수행하도록 해야한다고 역설했다.  

즉 “생성형 AI는 저작권 및 노동법의 보호대상에서 제외되는데 저작권법은 인간의 활동에 의한 창작물을 보호하기 때문이다” 며 “ 생성형 AI가 자연인이 아니기 때문에 노동법의 보호를 받을 수 없으며 기본법상 기본권인 언론의 자유는 ‘인간’ 저널리스트가 향유한다”고 부연 설명했다.

한 교수는 “생성형 AI를 통해 뉴스 생산 과정의 효율성과 생산성을 향상시킬 수 있다. 이때 중요한 것은 저널리스트들의 추가적인 편집과 팩트체크 등 인간의 개입과 감독 과정, 뉴스 제작에 생성형 AI를 활용하는 방식과 범위에 대해 독자들에게 투명하게 공개하는 것이 필요하다”고 밝혔다.

특히 “생성형 AI 활용이 일반화되는 시대에도 어떤 뉴스를 어떻게 보도할 것인지에 대한 최종 의사결정은 대체될 수 없는 인간 언론인과 편집자의 역할로 남게 될 것이다” 며 “중요한 것은 저널리스트들의 추가적인 편집과 팩트체크 등 인간의 개입과 감독 과정, 뉴스 제작에 생성형 AI를 활용하는 방식과 범위에 대해 독자들에게 투명하게 공개하는 등 디지털 저널리스트의 기본 자세가 요구된다”고 말했다.                /김다은 記者