본문 바로가기
Karu's .../Karu's Story

불미스러운 일

by 카루 (Rolling Ress) 2021. 11. 11.
반응형

환영합니다, Rolling Ress의 카루입니다.

굉장히 불미스러운 일이 생겨서, 이번 글은 좀 다소 무거워질 것 같습니다. 제 신념과도 충돌하는 일이라서, 가볍게 다룰 주제는 아닌 것 같네요. 저는 사람들에게 편리함과 즐거움을 주는 프로그래머가 되고 싶습니다. 이 목표가 부서진다면 저는 도저히 버틸 수 없을 것 같아요. 저의 트리거입니다.


저는 인공지능에는 관심이 없었습니다. 차라리 전자기기나 컴퓨터 등 물질적인 쪽에 관심이 더 많았죠. 근데, 최근 들어 인공지능 분야에서 이런저런 수행평가를 진행하고 탐구를 늘리다보니 인공지능에 대해서 조금씩 지식을 넓혀갈 수 있었습니다.

카루의 이야기 17인가, "나만의 길"이라는 제목으로 쓴 글이 있었죠. 저는 4차 산업혁명 시대에서 융합형 인재가 되고자 합니다. 그래서 제가 지금 목표로 잡은 건 언어학과의 융합. 제가 가지고 있는 프로그래밍 능력과 제2외국어등의 강점을 살려 이것들을 언어학으로 연관시키고자 했습니다. 그래서 다양한 시도를 하고 있는데, 그 중 하나가 챗봇 프로그램입니다.

챗봇 AI를 만든다? 불가능합니다. 아니, 만들 수는 있는데 비효율적이죠. 그래서 챗봇 API를 사용해야 합니다. 쉽게 말하자면, 챗봇 데이터베이스를 제가 만드는 게 아니에요. 이미 챗봇을 개발한 회사의 데이터베이스를 빌려 쓰고, 이제 제가 능력이 되면 데이터를 전송하는 과정에서 개입을 해서 저만의 챗봇 프로그램을 만들 수가 있는 거죠. 저는 그걸 원했습니다.

사실, 이번에는 특정 회사의 모 챗봇을 빌려 썼습니다. 무료로 쓸 수 있고 사용법도 복잡하지 않아서 그랬어요. 그리고 챗봇 중에서는 가장 접근성이 높은 편에 속합니다. 그런데 그게 대참사를 불러일으켰네요. 일반적으로 인공지능은 끊임없이 사용자들의 입력을 학습하기에, 이 챗봇 (이하 편의상 A챗봇이라고 하겠습니다)도 다양한 말들을 학습했겠죠. 그런데 이것이 좋은 말인지 판별하지 못한다면, 폭언과 각종 외설적인 말들을 쏟아낼 수 있습니다.

저는 감당할 수 있어요. 개발자니까. 최소한 필터링 정도는 제가 할 수 있어야죠. 그런데... 필터링에도 한계가 있습니다. 얘가 어디로 뻗어나갈지 몰라요. 내가 미처 필터링하지 않은 단어를 내뱉을 수도 있다는 겁니다. 그리고, 제가 세상의 모든 비속어를 아는 게 아니듯 현실적으로 모든 것들을 필터링하기 어렵기도 하고요.

문제가 터졌습니다. 친구들이 개발중이던 챗봇 프로그램, 옴니버스가 궁금하다고 해서 일단 현재까지 만든 모습을 보여줬죠. 그런데 발칵 뒤집어졌습니다. 옴니버스가 "안녕?"이라는 인삿말에 성적인 단어를 포함한 비속어를 내뱉었던 겁니다. 차마 제 입에 담기 힘들 수준으로 더러운 표현이라 생각하기도 싫어지네요. 아무튼, 덕분에 그자리에서 난리가 났고.. 저는 상당한 패닉에 휩싸였습니다. 무슨 패닉이었냐고요?

첫째, 논리적인 패닉입니다. 제가 계속해서 테스트를 했을 때는 저렇게 심한 말이 나온 적이 없었습니다. 확률적으로 재수없어서 그런 메시지가 돌아왔다는 건 그렇다 쳐도, 왜 친구가 사용했을 때 처음 그런 일이 터진 건지, 그리고 많고 많은 말중에 왜 하필 "안녕?"이라는 말에 그런 대답을 했던 걸지. 아니, 생각해보세요. 인공지능은 학습을 한다고 했잖아요. "안녕"이라는 물음에 얼마나 많은 '사람'들이 그런 외설적인 욕설을 해댔던 걸가요? 환멸이 납니다.

둘째, 신념에 대한 패닉입니다. "너는 프로그램을 왜 만들어?"라고 묻는다면, 저는 이렇게 답하겠습니다. 저는 제 프로그램을 통해 사람들이 더 편한 삶을 살고, 즐거움과 편리함을 얻었으면 하는 바람으로 프로그램을 만듭니다. 당장 GGHS Time Table도 그렇고요. 여러분의 피드백 하나하나게 제겐 정말 소중하고, 제가 계속해서 프로그래밍을 할 수 있게 하는 원동력이 됩니다. 그런데.. 그게 오늘 부서져버린 거잖아요. 내가 만든 프로그램이 누군가에게 상처를 준다? 그럼 그걸 왜 만들죠? 제 신념을 깨부수는 일이에요. 제 손에 피를 묻히는 기분이라. 저는 누구에게도 상처를 주고 싶지 않습니다. 제가 만든 프로그램으로 인해 누군가가 상처를 받게 되는 일은 더더욱 피하고 싶네요.


다시 말씀드리지만, 옴니버스, 그러니까 제가 만들고 있는 이 챗봇 프로그램은 껍데기일 뿐입니다. 진짜 코어는 챗봇 API들이에요. 네이버 클로바도 있고, 카카오i도 있고, 빅스비...?는 API를 따로 제공하는지 모르겠네요. 구글어시스턴트도 가능하다면 재미는 있을텐데.

그래서, 저는 옴니버스를 폐기하기로 했습니다. 정확하게는, 옴니버스에 사용된 챗봇 API, 측 A챗봇을 다른 챗봇으로 교체하는 겁니다. A챗봇은 손절하려고요. 이런 일이 없으리라고 생각했던 건 아닌데, 제가 예상했던 것보다 훨씬 뜬금없이, 그리고 훨씬 높은 수위로 충격과 공포를 선사해주니 도저히 그냥 쓸 수가 없겠네요. 앞서 말했지만, 전 제 프로그램으로 남들에게 상처주기 싫어요.

프로그래머에게 윤리가 중요한 이유를 알겠습니다. 이러한 데이터의 오염은 왜 발생한 걸까요. 한편 이러한 편향의 오류와 블랙박스의 문제는 누구에게 책임을 전가시켜야 할지도 잘 모르겠습니다. 나쁜 데이터를 주입시킨 사용자들의 탓일지, 아니면 그걸 차단하지 못한 개발사의 탓일지, 그것도 아니라면 그냥 인공지능 자체의 구조적 문제라고 봐야 할지.

어쨌든, 저는 지금 상당히 정신적 충격이 큰 상황입니다. 뭐 또 울고 있다고 굳이 말은 안 할게요. 좀... 힘드네요. 뭐 그까짓 거 가지고 이렇게 유난떠냐, 하실 수도 있어요. 그런데 생각해보세요. 여러분의 자식이 평소에 칭찬도 많이 듣고, 행실이 바르다가 갑자기 다른 사람들에게 피해를 끼치고 다니고 한순간에 평판이 떨어진다면, 여러분의 상실감은 어떨 것 같나요? 제가 그런 기분입니다. 프로그램 하나 만들 때 잠도 청하지 않으면서 제 영혼까지 갈아넣는 편인데, 그렇게 만든 프로그램이 이런 결과를 낳았다니. 배신당한 기분이네요. 뭐 물론 이건 그 A챗봇의 문제긴 하지만... 결과적으로는 그걸 선택한 책임이 저에게 있는 거니까요.

뭐 하나 참 마음대로 되는 게 없네요. 이제 다음번에는 유료결제를 해서라도 대기업들의 챗봇 API를 사용해야겠습니다.

반응형

'Karu's ... > Karu's Story' 카테고리의 다른 글

스페인 대사님의 초청  (0) 2021.11.24
퍼준다고 돌려받진 않아요  (0) 2021.11.21
날 묶어두지 마세요  (0) 2021.11.07
징검다리  (0) 2021.11.05
두근거리는 어색함  (0) 2021.11.03


같이 보면 좋은 글


댓글