생성형AI 기술 발달에 앞서 윤리적 고민 필요

프린트

오피니언 ㅣ 기자수첩 생성형AI 기술 발달에 앞서 윤리적 고민 필요 어떤 부작용 있을지 상상조차 어렵다…인간 존엄성 위해 개발돼야

기사입력2023-06-26 17:00

채민선 기자 (iscra79@junggi.co.kr) ㅣ다른기사보기

만약 AI가 전쟁에 참여해 잘못 학습된 정보로 학교, 병원 등 민간시설을 공격한다면? 누군가 딥페이크 기술로 합성한 나의 영상을 퍼뜨린다면? 내가 창작한 작품이 허락없이 AI의 창작에 이용된다면, 어떻게 해야 할까.

새로운 기술이 등장하면 기대와 함께 두려움과 우려가 따라온다. 구글의 전 회장 에릭 슈미트 교수는 “인간이 AI를 통제하려고 하는 가드레일 같은 규칙들을 점점 똑똑해지는 AI가 우회할 수 있다”고 경고했다.

학습한 데이터로 새로운 결과물을 만들어내는 생성형AI가 등장하자, 이 기술이 ‘아이폰 이상의 파급력’을 가질 것이라는 전망이 쏟아져 나왔다. 인터넷과 모바일을 뛰어넘는 거대한 기술혁명이라는 생성형 AI는 일하는 방식, 삶의 방식을 바꿔나가는데 필수요소가 될 것이라는 관측이다.

AI라는 개념은 이미 50년 전에 등장했다. 그럼에도 챗GPT가 대표하는 생성형AI가 새롭게 주목받는 이유는 쉬운 활용성과 극대화된 효용성으로 그 기술적 파급력이 기하급수적으로 확장되기 때문이다. 그래서 AI의 윤리적 문제에 대한 고민은 그보다 한 발 더 앞서 나가야 한다.

‘사피엔스’의 저자 유발 하라리 교수는 한 포럼에서 “AI가 인간의 OS(운영체계)를 위협한다”고 경고했다. 인간의 역사는 언어가 이뤄온 것이기 때문에 이제 AI가 인간의 언어의 영역에 들어왔으니 우리가 앞으로 보는 글, 영상, 이미지 등이 AI가 만들었는지 아니면 인간이 만들었는지를 식별하는 장치가 필요하다고 역설하기도 했다. 제약회사들이 신약을 출시할 때 엄격한 안전검사를 받지 않고는 판매할 수 없는 것처럼 사전검증없이 AI 제품과 서비스를 대중에게 노출해서는 안된다는 얘기다.

인공지능은 단순히 편리함과 유용함 뿐만 아니라 인간의 본성을 유지하고 인간으로서의 존엄을 지킬 수 있는 방향으로 개발·이용돼야 한다. 기술과 산업의 발달에 앞서, 기술이 개발되는 이유가 무엇인지 먼저 고민해야 하는 것이다. <이미지=이미지투데이>

세계 각국은 2016년부터 로봇·AI 윤리에 관한 다양한 원칙과 가이드라인을 개발하고 있다. 국내에서도 AI 제품이나 서비스를 개발할 때, 기업들이 참고할 수 있도록 하는 국가 차원의 윤리기준도 만들어졌다. 윤리기준이 지향하는 최고 가치는 ‘인간성’으로 설정하고 인간의 존엄성 원칙, 사회의 공공선 원칙, 기술의 합목적성 원칙을 제시하고 있다.

미국에서는 AI의 위험과 대안 준비를 위한 공론화가 한창이다. 챗GPT를 개발한 OpenAI의 샘 알트만 CEO는 올해 5월 열린 미국 상원 청문회에서 “제가 가장 두려워 하는 것은 이 기술, 산업이 세계에 큰 피해를 입힐 수 있다”는 것이라고 말했다. 그는 AI 기술이 상대적으로 약하고 매우 불완전한 상태일 때 사람들이 AI를 경험하고 현실에서 AI를 마주할 수 있는 방법을 찾고 더 안전하고 더 나은 AI를 만들기 위해 우리가 무엇을 해야 하는지 알아내야 한다고 강조했다. 샘 알트만은 AI 규제와 라이센스를 위한 국제원자력기구와 같은 국제기구 설립을 제안하기도 했다.

생성형AI는 허위정보와 딥페이크에 의한 사회적 혼란을 유발하고, 평향성과 차별을 조장할 수 있으며, 저작권을 침해할 수 있다는 우려도 있다. 또한 불법적인 개인정보 수집, 유출, 악용 등의 위험이 있으며, 일자리 감소와 사회적 불평등을 증가시킬 수도 있다. 사람과 기계와의 경계가 흐려졌을 때 어떠한 부작용이 나타날 수 있을지는 상상조차 어렵다.

업계에서는 생성형AI의 가장 큰 위험은 소수의 기업이 공급자의 지위를 이용해 배타적인 생태계를 구축하는 것이라고 지적한다. 샘 알트먼은 그래서 AI에 대한 규제는 구글, OpenAI, 마이크로소프트와 같은 빅테크 사업자에게만 적용하고, 순수 AI 연구나 스타트업에 대한 규제는 예외로 둘 것을 제안하기도 했다.

모든 인공지능은 단순히 편리함과 유용함 뿐만 아니라 인간의 본성을 유지하고 인간으로서의 존엄을 지킬 수 있는 방향으로 개발·이용돼야 한다. 또, 사람의 행동이나 신념을 설득하거나, 조작하거나, 영향을 미칠 수 있는 모델이라면 반드시 통제돼야 한다. 생성형 AI 산업은 이제 첫걸음을 뗐다. 기술과 산업의 발달에 앞서, 기술이 개발되는 이유가 무엇인지 먼저 고민해야 하는 때다. 중기이코노미 채민선 기자