이데일리

김현아의 IT세상읽기 +더보기

• 

  가짜뉴스, AI시대에는 어떻게 될까

  김현아 기자 2023.09.10

  [이데일리 김현아 기자]지난 3월, 소셜미디어에 프란치스코 교황이 흰색 패딩을 입고 있는 사진이 퍼지며 화제를 모았다. 그러나 이는 이미지 생성 인공지능(AI)툴인 미드저니(Midjourney)가 만든 ‘가짜’ 이미지인 것으로 드러났다. 사진=트위터미드저니(Midjourney)가 만든 도널드 트럼프 전 미국 대통령의 가짜 체포 사진. 엘리엇 히긴스 트위터‘미드저니’가 만든 가짜 사진들은 아직 완벽한 건 아니다. 프란치스코 교황 사진만 해도 자세히 보면 안경의 그림자가 곡선이고 손이 자세하지 않아 사진과 구별된다. 출처=박아란 고려대 미디어학부 교수이른바 ‘가짜뉴스’에 대한 정의나 법적 규제 여부에 대한 사회적 합의가 이뤄지기도 전에, 인공지능(AI)이 생성한 ‘허위정보’가 늘어나고 있습니다. 명령어를 입력하면 글을 작성하고, 그림을 그리고, 웹사이트를 만들어주는 AI 도구들이 등장하고 있기 때문입니다. ‘챗GPT’나 ‘클로바X’와 같은 글쓰기 도구뿐 아니라, ‘미드저니’나 ‘칼로’와 같은 이미지 생성 도구, 웹사이트 생성 도구인 ‘미쏘’, 사진을 영상과 음성으로 변환해주는 ‘디아이디’ 등이 시장에 이미 나와 있습니다.그런데 이러한 AI로 생성된 콘텐츠를 인간이 만든 콘텐츠와 구분하기가 점점 어려워지고 있습니다. 지난 3월에는 흰색 롱패딩을 입은 프란치스코 교황의 사진이 “센스있다”는 찬사와 함께 각국 소셜 미디어에서 수백만 건의 조회 수를 기록한 사례가 있었는데, 이 사진은 이미지 생성 AI도구인 ‘미드저니’가 만든 것으로 밝혀졌습니다. 도널드 트럼프 전 대통령이 경찰에 체포되는 모습의 이미지 역시 ‘미드저니’가 생성한 것으로 확인됐습니다. 사실과 다른 가짜 정보가 확산하고 있는 것이죠.AI 기술의 발전은 가짜 사진에만 그치지 않을 것으로 보입니다. 음성 합성 기술이나 디지털 휴먼 생성 기술도 높은 수준으로 발전하고 있어, 머지않아 가짜 영상이 우리를 더욱 혼란스럽게 할 것 같습니다.그런데, AI 기술의 발전은 가짜 정보와 혼동되는 정도를 넘어 언론 생태계의 약화를 부추길 우려도 큽니다. 실제로 ‘미쏘’라는 AI 홈페이지 자동 생성 도구를 사용해 보니 5분 만에 ‘삼데일리’ 웹사이트를 만들 수 있었습니다. 이런 방식으로 웹사이트를 만들고, ‘챗GPT’와 같은 채팅 로봇을 활용하면, 하루에 수십 개의 기사를 취재하지 않고도 만들 수 있습니다. 너무 쉽고 비용도 거의 들지 않아 언론계에 기자를 고용하고 취재해서 사실을 확인하는 팩트체크의 필요성을 줄일 우려가 있습니다.박아란 고려대 미디어학부 교수는 이를 ‘저널리즘의 종말’이라고 했습니다. 그는 뉴스 생산 구조의 변화로 AI 기자나 온라인 가십성 기사가 번성하고, 팩트 검증 기능이 약화하는 현실을 안타까워했습니다.‘미쏘(홈페이지 생성AI ‘미쏘(www.mixo.ai)’’로 기자가 만든 삼데일리 사이트. IT전문 매체의 홈페이지를 부탁했는데, 커스터마이징하려면 유료로 돈을 내야 한다.최근에 고려대기술법정책센터(센터장 이성엽 교수)에서 개최된 AI 윤리법제 포럼에서는 이러한 중요한 주제에 대한 논의가 진행됐습니다. 하지만, 대응책에 대해선 명확한 결론을 내지는 못했습니다.언론사 입장에서 ‘가짜뉴스’를 방지하려면 사실을 기반으로 한 보도와 언론사 내부의 팩트 체크 시스템, 권력에 대한 감시 기능을 강화해야 합니다. 하지만, 이러한 작업이 정치나 언론에 대한 신뢰도 하락을 틈타, 확증 편향을 악용하는 편향된 뉴스를 막을 충분한 대응이 될지는 솔직히 확신할 수 없습니다.이날 참석한 교수님 중 한 분은 “외국과 달리 한국 국민이 뉴스 앱을 다운 받아 구독하지 않는 이유는 언론사들이 각자의 프레임에 따라 보도하고 있다고 보기 때문”이라고 하시더군요. 한국의 뉴스 이용자들은 여러 매체를 동시에 봐야, 비로소 진짜 뉴스를 볼 수 있다고 생각하는 것 같습니다.실제로 아래, <로이터 디지털 뉴스리포트 2022>에 따르면 한국은 뉴스를 언론사 웹사이트나 앱에서 보는 비중이 조사 대상 46개국 중 꼴찌입니다.<로이터 디지털 뉴스리포트 2022>. 출처=박아란 고려대 미디어학부 교수기술적인 대책 역시 100% AI가 생성한 가짜뉴스를 식별할 수 있을지 불투명한 상황입니다.IT 업계에서는 AI 콘텐츠에 ‘워터마크’를 부여하거나, 콘텐츠를 블록체인 원장에 기록해 진위를 검증하는 방안을 제안하고 있지만, 완벽하지 않다고 합니다.AI 생성 콘텐츠에 눈에 띄지 않는 워터마크를 적용하는 ‘Synth ID 기술’을 개발한 구글 딥마인드와, 블록체인을 활용한 디지털 사진의 진위 인증 기술을 개발한 캐논 등 기업들은 여러 방법을 시도하고 있지만, 현재 수준은 한계적이라고 합니다.임종인 고려대 정보보호대학원 석좌교수는 이러한 대응 방법에 대해 의심을 표시했습니다. 그는 “AI를 활용해 선거 기간에 여론을 조작하는 행위를 포착하는 게 어렵다”면서“기술적인 측면에서는 완벽한 대응이 없을 것”이라고 했습니다.개인적으로는 선거 기간에 ‘AI 활용 콘텐츠’라는 출처를 명시하도록 규정하고, 표기하지 않은 채 진짜 발언처럼 만들어 여론을 왜곡했다면 엄중한 벌을 줘야 한다는 생각이지만, 이러한 조치가 완벽한 대응이 될 지는 장담하기 어렵습니다.

• 

  AI와 함께 만든 책, 괜찮을까

  김현아 기자 2023.09.03

  [이데일리 김현아 기자]햄릿, 21세기를 읽다, 제공=인스타페이인스타페이라는 회사가 자사 창작 플랫폼 ‘인스타페이 오써(InstaPay Author)’로 ‘햄릿. 21세기를 읽다’ 라는 책을 출간했습니다. 이 책은 오픈AI의 챗GPT 4.0과 협력하여 고전문학을 재창작한 작품입니다. 작가들은 프롬프트(명령어)를사용하여 AI와 새로운 창작 방식을 개척했습니다. 오는 10월에 열리는 서울북앤콘텐츠 전시회에서 전시될 예정이라고 하네요. 배재광 인스타페이 사장은 “AI로 스토리와 삽화를 만들고, 다중 언어 및 웹툰 형태로 동시 창작이 가능하다”고 소개했습니다. 그는 “AI 덕분에 ‘이야기꾼’인 대한민국 국민모두가 언어의 장벽 없이 전 세계 70억 인구를 대상으로 문학작품을 낼 수 있는 시대가 올 것”이라고 자신했습니다.그러나 이런 AI와 인간의 협력으로 창작하는 방식은 저작권 문제를 끌어들이게 되며, 이에 대한 가이드라인과 법적인 해결 방법이 필요해 보입니다.AI가 만든 창작물, 저작권 인정 안해생성형AI 시대 저작권 문제는 크게 두 가지로 나눌 수 있습니다. 첫째, AI가 창작물을 만들기 위한 학습 과정에서 발생하는 문제이고, 둘째, AI가 생성한 또는 인간과 공동 작업으로 만든 콘텐츠의 저작권 인정 범위에 대한 것입니다.오스카와일드의 명함판 사진을 석판화로 복제한 것. 출처=정상조 서울대 교수언젠가는 인간의 AI 통제 노력 따라 인정받을 듯일단 후자인 두 번째 문제는 당장 큰 이슈는 아닙니다. 미국 저작권청은 ‘AI가 만든 그림은 저작권 대상이 아니다’라고 판단했고, 우리나라 저작권법 역시 같은 원칙을 따르고 있습니다. 즉, 인간의 창작물만이 저작권의 보호를 받는 것이 원칙이며, AI가 생성한 창작물은 저작권 보호를 받지 못한다는 것입니다.다만, 이와 관련된 가이드라인과 법적 규정이 조만간 만들어질 가능성은 있습니다. 이는 예를 들어 오스카 와일드의 프로필 사진을 석판화로 다량 복제하여 판매한 사례에 대한 법적 판단과 유사하게 다룰 수 있을 것입니다. 법원이 ‘일정한 포즈를 취하게 하고 배경 커튼과 빛, 그림자 등을 배열한 점’을 창작적 표현으로 인정하고 저작권을 인정한 것처럼, AI의 학습과 생성 과정에서 인간의 창작적 통제와 노력이 어떻게 반영됐는지에 따라 달라질 전망입니다. 출처=구글 북스그런데, 현재 뜨거운 것은 ①창작까지 하는 생성형AI의 훈련 과정에서 생기는 저작권 문제를 둘러싼 공방이 아닌가 합니다.오픈AI는 데이터를 학습해 거대언어모델(LLM)을 만들었는데, 학습데이터에 저작물도 있지않느냐 하는 겁니다. 실제로 미국에선 작가들이 생성형AI 기업인 오픈AI와 메타플랫폼스를 저작권 침해로 제소했죠.우리나라에서도 네이버의 LLM ‘하이퍼클로바X’ 출시 행사에서 유사한 질문이 있었죠. 뉴스 콘텐츠도 학습할 텐데 어떻게 할 것이냐는 질문이었습니다. 국내 최고의 지식재산권 전문가인 정상조 서울대 법학전문대학원 교수는 관련된 문제에 대해 “네이버가 뉴스를 공짜로 서비스하느냐?”라고 물은 뒤 “그렇지 않다면 이용 계약으로 해결할 수 있는 문제”라고 했습니다.공정 이용 vs 표절 판례 쌓아야 그는 생성형 AI가 모델을 훈련할 때 발생하는 저작권 침해 여부를 평가하려면 고려해야 할 사항이 많다고 하셨습니다. 이는 사람과 달리 AI는 데이터를 복제하고 전송하기 때문입니다. 따라서 단순히 복제와 전송한다는 것만으로는 저작권 침해로 보기 어려워 보입니다.실제로 구글 북스의 경우 2500만 권의 책을 서비스하였는데, 저작권이 만료된 책은 침해로 판단되지 않았고, 색인(인덱스) 정보 서비스도 저작권법상 공정 이용으로 판단되었습니다. 오픈AI는 이와 유사한 논리로 자신을 방어하고 있으며, 저작권법이 통계적 정보인 ‘단어 빈도, 문장 유형, 주제 표시’까지 보호하지 않는다는 주장을 펼치고 있습니다. 그러나 램브란트 그림 361개를 학습한 생성형AI가 그의 화풍을 그대로 모방하여 그림을 그린 경우 저작권 침해, 표절로 간주한 법원 판단도 있습니다. 결국, 사회적 논의와 함께 AI 학습 데이터를 둘러싼 분쟁에 대한 판례가 쌓여야 할 부분으로 보입니다. 정 교수는 저작권법 예외 조항 등 콘텐츠 생성과 활용 사이의 균형을 잡기 위한 법적 노력이 필요하다고 강조하셨습니다.생성형 AI는 현재 우리 주변에서 빠르게 발전하고 있으며, 글로벌 시장조사업체 가트너에 따르면 2025년까지 대기업의 마케팅 메시지 중 약 30%가 생성형 AI를 활용한 합성 문장으로 만들어질 것으로 보입니다.이로 인해 인간의 창작물만을 규율하는 저작권 법제가 조정돼야 하는 필요성이 커지고 있습니다. 생성형 AI가 머지 않아 카메라나 계산기 같이 인간의 창작을 돕는 더 편리한 도구로 자리매김할 것으로 보이기 때문입니다.

• 

  재정적자 시대, 국가 R&D 예산 재구성의 필요성

  김현아 기자 2023.08.20

  [이데일리 김현아 기자][이데일리 김일환 기자]지난 16일, 정부와 여당은 국가 연구개발(R&D) 예산의 비효율을 해소하기 위한 협의회를 개최했습니다. 당정 협의회의 핵심 목표는 ‘나눠먹기’와 ‘뿌려주기’ 형태의 R&D 사업을 재조정하는 것이었습니다. 그러나 과학기술계는 이에 대해 공감하면서도 국가 R&D 예산의 삭감은 신중하게 고려돼야 한다는 입장을 제시하고 있습니다. 예산의 비효율적 집행 요소는 제거되어야 하지만, 글로벌 기술 패권 경쟁이 심한 분야에는 대담한 투자가 이뤄져야 한다는 점을 강조하고 있습니다.저 또한 동의합니다. 국가 R&D 예산을 조정할 때에는 ‘규모’뿐만 아니라 ‘쓰임’에 중점을 두어야 한다고 생각합니다. ‘얼마를 줄이겠다’는 감축 목표에 따라 일괄적인 삭감을 진행하는 것은 반도체, 인공지능(AI), 우주 등 대한민국의 미래 성장 동력을 해치는 결과를 낼 수 있습니다. 또한, 기후위기 대응과 같이 인류 생존에 필수적인 분야의 연구개발이 더디게 진행될 우려도 있습니다.최근 당정 협의회에서는 어떤 분야의 예산을 축소해야 할 지 여러 문제가 제기됐습니다. ‘나눠먹기’ 사례, ‘뿌려주기’ 사례, R&D 브로커, 국가출연연구소의 지방출장 사무소 비효율 운영, 정부 R&D의 경쟁률 저하 등이 언급됐습니다.이번 기회에는 ‘정부 돈은 눈먼 돈’이라는 말이 더는 나오지 않도록 부처 간 R&D 과제 통합관리 시스템 구축 등 체계 개선에 노력이 필요합니다.그뿐만 아니라 국가 R&D 체계의 큰 손인 정부출연연구기관에 대한 개혁 역시 함께 이뤄져야 합니다. 출연연은 과거 국가 발전의 중추 역할을 해왔으나 민간의 R&D 역량이 커지면서 그 역할이 축소되고 있습니다. CDMA 신화를 이룬 한국전자통신연구원(ETRI)조차도 예전만큼의 위상을 유지하지 못하고 있습니다. 따라서 대학이나 기업과의 협력을 강화하며 중복된 연구 과제를 피하고 출연연 간 융합연구를 촉진하는 등 변화가 필요합니다.이와같이 국가 R&D 예산 조정은 규모뿐만이 아니라 예산의 과감한 재구성을 통해 효율적인 운용 방안을 마련하는 데 중점을 둬야 합니다. 재정적 어려움 속에서도 대한민국의 과학기술 성장동력을 유지하고 발전시키기 위한 노력이 필요합니다.이종호 과학기술정보통신부 장관은 이 문제에 대한 설명과 기획재정부 등과의 협의를 통해 관리재정수지의 적자 상황을 고려하되 국가 R&D 예산 삭감이 목표가 되어서는 안 된다는 점을 이해시켜야 합니다. 이렇게 함으로써 대한민국의 과학기술계와 미래 세대에 대한 관심을 보여줄 수 있을 것입니다.