Test Logo

2024.04.17

조금 지난 에피소드긴 하지만 ‘이루다’ 챗봇 서비스에서 행해졌던 이용자들의 성희롱 논란, 차별적 혐오발언 등은 사회적으로 큰 파장을 낳았다. 이는, 인공지능(AI) 서비스가 잠재적으로 내포하고 있는 윤리적 리스크를 상징적으로 보여준 사례이자 디지털 사회에 경종을 울릴만한 사건이었다.

인공지능(AI)은 엄청난 양의 데이터를 학습해 가장 그럴싸한 답을 내놓기 때문에 우리 사회의 편향된 인식을 그대로 담아낸다. 즉, 태생적으로 과거의 차별과 편향, 불평등이 현재와 미래에도 반복되고 강화되는 구조의 알고리즘을 가질 수밖에 없다. 논란이 된 이루다 서비스는 며칠 뒤 곧바로 서비스를 중단했고, 이후 AI업계와 관련 분야에서는 디지털책임, 개인정보 유출, 기술윤리와 같은 사회적 책임에 대한 주제들이 공론화됐다.

(중략)

소송에서 주정부는 메타가 금전적 이익에만 초점을 맞춰 사용자에게 어떠한 영향을 끼칠 수 있을지 전혀 고려하지 않은 채, 또래집단에서 소외되거나 유행에 뒤처지기 싫어하는 청소년의 심리를 자극해 더 많은 광고에 노출되도록 SNS에 머물게 한 것에 대해 금전적 손해배상과 관련 알고리즘 제거를 요청하였다.

과거 대중 건강을 희생해 이익을 극대화했던 담배회사처럼 청소년 정신건강을 희생해 기업의 이익을 극대화하는 기업을 과연 혁신기업이라고 할 수 있을까. 기술이 항상 좋은 방향으로 진보하는 것은 아니다. 기술로 인한 변화가 사람과 사회에 이로운 방향으로 성숙해 나갈 때, 비로소 혁신이 되고 우리 사회의 지속가능한 발전에 기여하는 것임을 잊지 말아야 한다.