[행사]언론사 생성형 AI대응 전략 토론회

한국언론진흥재단은 2023년 11월 9일 엘레나 페로티 세계신문협회 미디어정책및 홍보 수석이사를 초빙해 ‘AI와 뉴스산업 혁신’을 테마로 조찬 강연회를 가졌다. 페로티 이사는 세계신문협회에서 미디어 정책과 홍보를 담당하면서 세계 각국의 언론 관련 단체와 협력하고 소통하는 일을 맡고 있다.

페로티는 강연에서 생성형AI의 학습에서 뉴스 콘텐츠가 핵심이므로 꼭 제 값을 받아야 하며 이를 위해 전세계 언론계는 빅데크를 대상으로 집단 행동을 하면서 함께 협상해야 한다고 강조했다.

페로티 이사의 강연을 소재로 회원들이 12월 22일 토론회를 가졌다.

언론사 생성형 AI 수용 대세

2022년 11월 오픈AI가 챗GPT3를 발표하면서 순식간에 생성형AI가 언론계의 관심을 끌고 있다. 101개 언론사를 대상으로 조사한 결과에 따르면 50%는 이미 생성형AI를 사용하고 있고 70%는 빠른 시간안에 생성형 AI가 뉴스룸에서 유용한 도구가 될 것이라고 답했다. 이에 비해 20%만 생성형AI 사용 가이드라인을 마련하는데 그쳤다.

응답한 언론사는 생성형 AI를 콘텐츠 요약, 교열, 기초자료 조사, 업무흐름 자동화 등에 활용하여 기자들이 더 창의적인 일에 시간을 할애하고 있다. 전체적으로 언론계는 생성형 AI에 대해 폭넓은 낙관론을 지니고 있지만 동시에 회의론도 존재한다. 언론사들은 오정보, 정보의 정확성, 데이터 프라이버시, 규제 등을 우려하고 있다.

생성형 AI 규제 추세와 현황

2023년 5월 오픈 AI의 샘 앨트먼 사장이 미국 상원 청문회에서 생성형 AI를 사용할 경우 대중을 상대로 출시하기 전에 위험성을 걸러내기 위한 사전 테스트를 실시해야 한다고 말했다.

챗GPT3출시 이후 2023년 8월 중국은 24개 항목을 담은 가이드라인을 발표함으로써 AI를 규제하는 최초의 국가가 됐다. 가이드라인에는 검열에 가까운 내용도 포함되어 있다.

올해 9월 AI 안전포럼이 미국 의회에서 열렸는데 샘 올트먼, 마크 저크버거, 일론 머스크 등 참여자들은 규제에는 동의했지만 누가 규제하고 어떻게 규제하느냐는 문제에는 합의하지 못했다. 미 바이든 정부는 10월 31일 행정명령을 미국 정부의 모든 기관이 안전하고 신뢰할 수 있는 AI의 사용과 개발에 힘써야 한다고 규정하는 행정명령을 발포했다.

또 일본 히로시마에 모인 G7은 일본의 주도로 AI개발 원칙, 개인정보보호 등 11개 항목의 가이드라인에 합의했다. 11월 1일 영국 블레츨리파크에서 열린 AI안전 정상회의에 참석한 국가는 AI의 리스크를 함께 평가하자는 선언문을 채택했다. 차기 회의는 2024년 한국에서 개최될 것이다.

유럽연합도 리스크를 수용불가, 고위험, 제한적 또는 최소 등 등급별로 분류하고 저작권법을 지키면서 모델을 학습시키는 법안을 마련했다. 또 법을 어길 경우 3천만 유로 또는 매출액의 6%까지 벌금을 매길 수 있도록 했다.

언론계 생성형AI 활용 현황과 이슈

런던정경대학의 조사에 따르면 언론계에서 뉴스 수집, 뉴스 제작, 뉴스 배포에 AI를 폭넓게 사용하고 있다. 예를 들어 블룸버그GPT는 금융콘텐츠에, 런던타임즈 제임스는 사용자의 행태 분석에, 로이터의 링스 인사이트는 탐사형 저널리즘 맥락적 정보 제공을 하는데 활용되고 있다.

뉴스 수집의 경우 데이터 수집, 자동번역, 텍스트 추출, 요약, 데이터분류 등에 활용하고 있다. 뉴스 제작 프로세스에서는 사실확인, 팩트체킹, 교정, 헤드라인 뽑기, 이미지 생성 등에 활용하고 있다. 뉴스 배포에서는 개인화 뉴스제공, 매체별 콘텐츠 최적화, 텍스트 오디오 전환, 검색최적화 등에 AI를 활용하고 있다. 어떤 매체는 미국식 영어가 아닌 영국식 영어 규칙이 있어서 특정한 용어를 사용하는 것을 규제하는데 AI를 활용한다.

언론사는 이런 AI활용을 통해 기자들이 반복적이거나 기계적인 일에서 벗어나 창의적인 일에 몰두할 수 있도록 돕고 있다.

생성형 AI의 기자직업 위협

AI는 언론인의 생계에 위협을 줄 수 있다. 올 6월 미국 매체인 인사이더의 파업은 뉴스 업계에서 최장기 파업이었다. 이 파업이 끝나고 나서 노조는 만약에 생성형 AI를 뉴스에 활용할 경우 노조가 참여할 것을 요구했다.

미국 작가 조합(WGAW)은 146일에 걸쳐 파업하면서 할리우드 영화제작과 TV 프로그램 제작에 영향을 미쳤다. 시위에 등장한 한 피켓에는 “작가들은 연극 ‘R.U.R’에서부터 AI 위험성을 경고해 왔다”고 적혀있다. (‘R.U.R’은 체코작가 카렐 차페크가 1920년에 발표한 희곡으로 로봇을 최초로 다뤘다)

독일 빌트지는 올해 200명을 해고했는데

마티아스 되프너 악셀 스프링거 CEO는 “AI가 정보를 수집하는데 사람도 곧 더 나을 것”이라고 예측했다. 호주 뉴스코프의 경우 4명의 로컬 데이터팀이 매주 3천개의 콘텐츠를 생산하고 있다.

하지만 AI의 사용시 허위정보 리스크, 편향적 정보 리스크가 발생하고, 사람이 생성한 것과 AI가 생성한 콘텐츠를 구분하기 어렵다. 나아가 언론인의 신뢰도에 영향을 미친다. 이런 점으로 인하여 다른 기회가 있다. 즉, 우수한 저널리즘이 더욱 중요하고 가치가 올라갈 것이다. 스타 저널리스트의 가치도 커질 것이다.

생성형 AI에 대한 사람의 감독

생성형 AI 활용과 관련 윤리적 가이드라인을 가지고 있는 뉴스룸이 많지 않다. 올 9월에 옥스퍼드대 조사 결과 200개 중 52개만 가이드라인 가진 것으로 나타났는데 기본적으로 내용이 유사하다.

또 경영진이 언론인들이 AI를 어떻게 사용할 것인지를 정한 것으로 공통적 사각지대도 있다. 예를 들어 가이드라인 위반에 대한 단속으로서 벌금이나 벌칙을 마련하지는 않았다.

아웃풋에 대한 감독은 있지만 알고리즘에 대한 감독은 제한적이며 외부협업자들과 관련된 부분이 없다. AI사용에 대한 가이드라인이 있다면 소스에 대해서도 가이드라인이 있어야 하는데 부족하다.

영국 가디언은 3개월 동안 편집, 기술, 법률 등 뉴스 제작의 여러 부서가 참여한 워킹그룹에서 마련했는데 사람이 감독하는 것은 필수적이라고 규정했다. 생성형 AI도구를 사용할 경우 보다 양질의 저널리즘이 가능할 때 사용해야 한다.

예를 들어 시니어 에디터가 생성형 AI가 만든 결과물을 승인했을 때만 사용해야 한다. 또 생성형 AI사용을 대중에게 반드시 알려야 한다. 대규모의 데이터세트를 검색하거나 마케팅을 위한 아이디어 창출, 비즈니스 프로세스 단축 등에 활용하면 반드시 승인받아서 투명하고 공정하게 사용하고 이를 알려야 한다.

AP의 가이드라인은 정확하고 공정한 정보를 공유하는 책임은 언론인이 가지고 있다고 규정한다. 또 이 정보에 의구심이 있다면 이 정보는 사용하지 말아야 한다고 규정한다. 챗GPT를 이용해 동영상, 사진,오디오 등을 변경해서 안되며, 또 소스 데이터를 AI에 탑재하거나 민감정보를 AI에 제공하면 안 된다고 규정했다.

AI 시스템은 발행인들에 의해 승인되어야 하고, 승인된 콘텐츠만을 사용해야 하고 기록을 제대로 남겨야 한다. 어떠한 목적으로 어디에 사용되고 승인받았는지를 기록으로 남기고 안전하게 사용할 수 있도록 해야 한다.

노벨 평화상 수상자인 마리아 레사가 국경없는 기자회와 함께 주도한 AI 저널리즘 파리 헌장에는 발행인들의 관점이 반영된 것도 있고 아닌 것도 있다. 핵심적인 아이디어는 뉴스룸에 AI 사용 가이드라인을 제공하는 것이다. 아주 성공적이라 생각하지는 않지만 AI가 규제해야 하는 것으로 인지하고 있어 주목할 만하다.

저작권에 대한 정당한 요구

37개의 웹사이트가 CNN,뉴욕타임스, 로이터 뉴스를 재료삼아 새로운 뉴스를 작성하는 것으로 적발됐다. 이들 사이트가 광고수익을 얻어도 출처인 언론사에 배분해주지 않는다. 언론사는 이렇게 사용된 줄 몰랐을 것이고 79%가 표절탐지기로도 찾아낼 수 없다.

챗GPT4를 사용해서 뉴욕타임스를 인용한 것인지 모르게 검색엔진 최적화되도록 쓰라고 하면 AI기 생성 한 기사인지 모르게 작성해준다. 구글의 AI 학습용 데이터인 C4 데이터세트를 분석하면 뉴욕타임스(4위) 가디언지(6위), 포브스(8위)순으로 언론사의 콘텐츠를 많이 사용하고 있다.

페이스북과 트위터는 더 이상 생성형 AI의 학습에 데이터를 제공하지 않는다. 또 뉴욕타임스도 AI의 웹크롤링을 막고 있다.

현재 챗GPT, 바드 등 7개의 LLM(Large Language Model)이 치열하게 경쟁하고 있는데, 경쟁에서 승리하기 위해서는 막대한 돈과 양질의 콘텐츠에 대한 접근이 필요하다. 이들이 절실하게 원하는, 양질의 학습용 콘텐츠는 바로 미디어가 생산하고 있다.

미국의 FTC에서는 올 7월 오픈 AI에 대해 불공정한 데이터 사용여부를 조사하기 시작했다. AI 기업들은 이런 소송을 예상하고 있었다. 오픈AI는 소송이 진행되면 데이터를 사용하지 못할 것을 우려해 AP와 계약을 체결했다. 특히 영어가 아닌 언어로 발행되는 뉴스가 중요하다. 왜냐하면 그만큼 희소성 있기 때문이다.

미디어의 콘텐츠가 LLM에 인풋으로 사용되면 돈을 받아야 하는데 너무 적은 돈을 받고 계약을 맺으면 안 된다. 이전에 너무 적은 돈을 받고 콘텐츠를 테크 기업이 제공했던 실수를 반복하면 안 된다.

생성형AI회사는 자신들이 필요하는 콘텐츠에 대해 돈을 지불할 수 있는 능력을 지니고 있다. 오픈 AI경우 출범 7개월만에 회사가치가 뉴스코프사의 2배를 넘어섰고, 오픈AI지분 49%를 보유중인 마이크로소프트사는 사상 최초로 4조달러짜리 회사가 되었다.

언론사가 할 일을 다음과 같다.페이월이라는 유료화도 AI의 크롤러로부터 완전히 콘텐츠를 보호하지 못하므로 집단 행동과 집단 협상이 필요하다. 또 미디어의 웹사이트 이용약관에 자사 데이터가 AI 트레이닝에 사용되지 못하도록 규정해야 한다.

AI를 잘 활용할 수 있는 인력을 훈련시켜야 하고, AI 관련 가이드라인를 채택해야 한다. 외부 협력과 국제적인 연대를 해야 한다. 여러 AI 관련 각종 국제 모임에 참여하는 등 노력이 필요하다.

질의응답시간

페로티 이사는 강연후 질의응답시간을 갖고 생성형 AI활용할 경우 사람의 역할에 대한 청중의 질문에 “웹사이트에 컨텐츠를 올릴 때 꼭 사람이 콘텐츠를 검토하고 나서 출고해야 한다. 이는 사람이 항상 읽고 편집하고 검토한다는 뜻”이라고 답변했다.

또 뉴스미디어가 LLM에 양질의 콘텐츠를 제공하지 않으면 편향되거나 허위정보를 학습하고 결국 민주주의에 위협이 되지 않느냐는 질문에는 “미디어의 사회적 책임이기는 하지만 동시에 우리의 존재 자체가 위험하므로 세상을 구해야 할 임무가 있는 건 아니다”라고 답변했다.

페로티 이사는 “한 언론사가 무료로 제공한다고 하고 나머지가 제공하지 않는다하면 챗GPT는 한 언론사에서 콘텐츠를 가져오면 되므로 충분하다고 판단할 것”이라면서 “언론계 집단행동이나 단결이 없으면 기술기업이 콘텐츠를 쉽게 활용할 수 있다. 꼭 콘텐츠의 가치를 인정받고 대가를 받아야 한다”고 말했다.

페로티이사의 강연은 생성형AI 최신 동향 정보를 충실하게 공유해주고 또 언론계의 현실적인 대처 방안을 구체적으로 제시하였다. 한국 언론계가 깊이 새겨 듣고 바로 실행에 옮겨야 할 대목이 많다. 예를 들어 생성형AI를 저널리즘에 접목하는데 필요한 가이드라인을 빠른 시간안에 만들고 또 빅테크 기업을 대상으로 저작권 협상을 하기 위해 언론계가 똘똘 뭉쳐 단일 협상창구를 마련해야 할 것이다.

하지만 개별 언론사입장에서 생성형AI의 급부상은 그리 반갑지 않다. 설사 공동 협상을 통해 저작권료를 받는다고 해도 각 언론사의 경영 상황을 극적으로 호전시킬 정도의 의미있는 금액이 아닐 것이다. 더욱이 생성형AI가 모든 언론사의 기본 도구가 되면 차별성이 퇴색되고 결국 새로운 수익은 없고 비용만 추가할 것이다. 오픈AI가 천문학적 돈으로 개발한 챗GPT를 저렴한 가격에 서비스를 제공하고 있지만 시장을 장악하면 결국 돈벌이에 나설 것이기 때문이다.

다만 페로티 이사가 강연에서 스타 저널리즘의 가치가 상승할 것이라는 전망한 대목에서 실낱같은 희망을 찾을 수 있다. 스타 저널리즘을 실현하려면 먼저 숙련 인력과 미숙련 인력이 혼재한 한국식 뉴스룸 인력구조를 확 바꿔야 한다. 아울러 스타 저널리스트에 대한 보상도 획기적으로 높여야 할 것이다.