Killer Robots : 인공지능이 가져다 줄 황금 빛 미래?

전세계 학계는 "KAIST"와 국방회사 와의 협동작업에 대해 큰 우려를 표명 하고 있습니다.

거의 30개국에 달하는 인공지능 연구원들이 유명한 국방회사와 협력하여 새로운 연구소를 세우면 그 결과물은 "살인로봇"이 될 수도 있다는 우려로 인해 해당 대학교에 대한 강한 반발 의사를 나타내고 있습니다. 50명 이상의 학자들이 그들의 연구가 무기를 개발하기 위한 군비경쟁을 가속화하게 될것이라는 우려로 인해 "한국과학기술원"과 그 협력업체인 "한화 시스템즈"에 대한 보이콧을 촉구하는 서한에 서명 하였습니다.

뉴사우스 웨일스 대학의 토비월시 교수는 매우 존경받고 있는 대학이 국제 규범을 계속적으로 위반하고 있으며 윤리적으로 매우 의심스러운 회사와 파트너링을 맺고 있는 경우라고 개탄 하며, 이같은 보이콧 운동에 동참 하였습니다. 군사적 상황을 포함하여 "AI"가 생명을 살리는 역할로서 할 수 있는 수 많은 일들이 많지만, 공개적으로 이같은 목표를 설정하는것은 분명 자동화 무기를 개발하는 결과물을 만들어 낼 것이라 우려했습니다.

이 보이콧은 다음주 제네바에서 열릴 유엔의 "자동무기에 대한 회의"에 앞서 이루어졌으며 ,20개국 이상의 국가들은 이미 살인 무기에 대한 전면 금지에 대해 서명 했습니다. 전 세계적 의견은 군대에 이같은 AI 기술을 응용하는것은 "터미네이터"와 같은 상황이 일어날 수 있음에 대한 두려움을 일으키고 있고 , 이러한 무기가 적과 친구를 구별할 수 있는 능력을 가지고 있는지에 대한 의문 또한 제기 되고 있습니다.

구글 캡쳐 : 영화 터미네이터의 킬러로봇

한화 는 한국의 가장 큰 무기 제조 업체 중 하나이며 , 국제 협약에 따라 120개국에서 금지된 클러스터 군수품을 만드는 회사 입니다. 한국은 미국 , 러시아 , 중국과 함께 이 협약에 서명하지 않은 국가 중 하나 입니다.

카이스트의 신성철 교수는 이 보이콧 소식을 듣고 상당히 슬퍼하였으며 , , "저는 카이스트가 치명적인 자동무기 체계와 살인 로봇의 개발에 관여 할 의사가 없다는 것을 재 확인 하고 싶습니다." 라는 내용을 골자로 한 성명서를 발표 하였습니다.

내용은 이렇습니다. "학술기관 으로서 우리는 인권과 윤리 기준을 매우 높게 평가 합니다. 카이스트는 의미있는 인간적 통제력이 결여된 자율적 무기를 포함하여 인간의 존엄성에 역행하는 연구 활동을 하지 않을 것이라는 점을 다시 한번 확인 합니다. "

노벨상으로 유명한 스웨덴의 과학자  "알프레드 노벨"은 자신이 발명한 "다이너마이트"가 새 문명의 건설을 위한 어려운 공사에 이바지 할 수 있기를 바라며 연구 활동에 매진 하였습니다. 하지만 이는 전쟁의 도구로 사용되어 수 많은 희생자들을 만들어 냄으로써 죽는 날 까지 슬퍼 할 수 밖에 없는 역설과 모순을 남기게 되었습니다. 

이는 과학이라는 학문이 가지고 있는 필연적인 역설이기도 하기에  그들의 노고와 연구를 마냥 비판할 수 는 없습니다.

여기에서 한화 시스템즈에 대해 알아볼 필요성이 있을 것 같습니다.

카이스트는 2월 20일 국방회사와 인공지능의 융합을 위한 연구소를 열었습니다. 이 센터는  AI기반 명령 및 의사결정 시스템과 메가급 무인 잠수정 용 복합 항법알고리즘, AI기반 스마트 항공기 훈련 시스템 , AI기반 스마트 객체인식 등을 집중적으로 파악 할 계획이라고 밝혔습니다.

한국의 "도담시스템스"는 최대  3Km떨어진 목표물을 탐지할 수 있는 완전 자동식 "전투로봇"을 이미 생산 하고 있습니다. 아랍에미리트 , 카타르 를 고객으로 가지고 있으며 북한과의 국경지대에서 테스트를 받았습니다. 회사 경영진은 2015년 BBC에 사람에 대하여 치명적인 공격을 하도록 요구 할 때 "스스로 정한 제한"이 있었다고 밝혔습니다.

토비 월시 교수의 말에 따르면 , 영국"BAE Systems"에서 만든 드론 "Taranis" 는 기술적으로 완전한 자동운행이 가능하며 , 킬러로봇은 우리와 우리 이웃 모두를 위험하게 할 수 있다고 합니다. 

자동로봇의 개발은 한반도 안보를 위한 일이 아닌 안보 악화를 초래하는 악수가 될 것 이라 말하며 , 이러한 무기가 만들어지면 결국 북한도 만들게 될 것이고 , 그들은 남한에 이를 사용함에 거리낌이 없을 것이라 말 했습니다.

원고 : 가디언지 4월5일자 기사를 옮겼습니다.

[TED추천] Noriko Arai - Can a robot pass a university entrance exam?

로봇이 도쿄대학에 입학 할 수 있을까?

요즘 매스컴을 장식하는 많은 단어 중에 "AI" 또한 끼어있다. 이제 "인공지능"은 우리에겐 생소한 단어가 아니다. 알파고가 휩쓸고 간 자리에는 뒤늦은 바둑 열풍이 불어 어르신들의 전유물이 되어 버렸던 "기원"에 아이들의 푸르른 기운을 가득 심어주는 계기가 되어 주었다. 그 아이들이 자라 "미생"의 "장그래" 가 되지 않기를 바라는 마음 그지 없다.

요즈음 대한민국에는 테니스 열풍이 불고 있다고 한다. 자랑스러운 "정현"선수의 경기를 리플레이 해서 보고, 또 보게 된다. 그의 까진 발바닥을 보자면 그 쓰라림이 느껴지는듯 안타깝다. 그리고 우리의 미래인 아이들은 이제 골프체와 바둑돌을 놓고 테니스라켓을 들고 코트로 향하고 있다. 미래에 무었이 그들의 삶을 지배하게 될 지 우리는 알지 못한다. 우리가 알지 못하는 미래에 대한 불안감을 아이들이 힘겹게 겪지 않기를 바라며 대비 시키는 부모들의 마음이다. 알파고 이야기 하다 왠 테니스?

Click on the picture to see Ted's lesson.

오늘 할 이야기는 "AI"에 대한 이야기 이다. 소위 전문가라는 많은 사람들이  "AI"가 선사할 암울한 미래에 대해 경고하기 시작했다. 우리가 잘 아는 "아이언맨"의 실재 모델인 "엘런 머스크"마저  "AI"가 인류에 재앙을 가져다 줄 것이라고 한다.

또 한무리의 전문가들은 절대 걱정할 일이 아니며 인류의 평안과 편리를 위해  "AI"가 존재하는것임을 이야기 한다. 어느 말이 맞는지 갈피를 잡을 수 없다. 확실한것은 "AI"의 등장으로 인해 우리의 일자리는 대 변혁을 겪게 될 것이며 그 와중에 수많은 사람들이 일자리를 잃게 될 것이다. 또 어떤이는 잃은것 보다 많은 새로운 일자리가 생겨날 것이라고도 한다.

그렇다면 얼마나 많은 사람들이 새로 생겨난 일자리에 적응할 수 있을까? "AI"가 더 더 빠르고 더 정확하게 그 일자리에 또 적응해 나갈텐데 말이다. 그럼 정말 "AI"가 인간의 모든것을 대체해 나갈 수 있는 것인가? 그럼 로봇이 일본 최고의 대학인 "동경대학"의 입학시험을 통과할 수 있을까?그 해답을 얻기 위해 강연자 "Noriko Arai"는 토다이(Todai) 로봇 프로젝트를 시작 한다.

왜 도쿄대학 입학 시험인가? 그녀는 "AI"의 성과와 인간을 비교하기 위해서는 인간만이 할 수 있다고 여겨지고, 교육을 통해서만 배우고 발전할 수 있다고 믿어지던 "고급기술" 에 대해 "AI"의 처리능력을 보고자 했다. 도쿄대학의 입학을 위해서는 두번의 관문을 넘어야 한다. 첫째 7과목의 시험에서 84점 이상의 점수를 받아야 한다. 그 다음 논술 시험이 있다. ( 대한민국의 입시 제도와 비슷한것 같다. )

그럼 "AI"는 어떻게 문제를 풀게 되나? 나는 막연히 인공지능이 막대한 데이터를 읽고 공부한 지식을 하나도 까먹지 않고 하드 드라이브에 저장하고 필요할 때마다 꺼내어 문제를 풀 것이라 생각 했다. 그러니 "AI"가 문제를 틀리는 일은 절대로 없을 것이라 생각했다. 결론은 "틀릴 수 있다" 였다. 그리고 가장 놀라운것은 현재 나와있는 왔슨,시리,토다이..모든 인공지능은 읽을줄 모른다는 사실 이었다.

뭐? "이세돌"도 이겼는데? 그렇다. "AI"는 읽을 줄 모른다. 검색하고 결과를 최적화 하는것 뿐이다. 강연에 예를 든 "샤를마뉴는 마자르인을 쫒아냈다"는 문장은 참인가 거짓인가? 의 문제에서 "AI"는 "샤를마뉴는 ~를 쫒아냈다"라고 문장을 재 구성 하고 검색에서 가장 많이 나오는 "아바르인"이라는 단어를 통해 이 문제는 "거짓"이라는 결과를 도출 해 내는 것이다. 물론 답은 맞다. 그리고 논술의 경우도 위키디피아와 교과서의 문장을 결합하고 최적의 구성을 만들어 하나의 논술문을 만들어 낸다. 그게 무슨뜻인지 하나도 모르면서 말이다.

읽을 수도 이해 할 수도 없다. 그럴 수 있는것처럼 흉내만 내는데도 상위 60% 정도에 성적을 냈다. 도쿄대는 실패 했지만 중위권 대학은 들어 갈 실력이 되는 것이다. 무서울 지경이다. 그녀의 실험은 어느정도 성공한 것이다. 하지만 그녀는 기뻐하지 않았다. 강연의 말미에 "Noriko Arai"는 그녀가 진정 하고자 했던 이야기를 꺼냈다. 

인간이 "AI"와 함께 공존하기 위해 해야 할 일이 무엇일까?

지금 우리가 하고 있는 교육환경과 현실을 둘러보자. 읽을 수도 이해 할 수도 있지만 우리의 교육은 그러한 능력을 상실 시킨체 암기 위주의 교육에 전념하고 있다. 무었을 ,왜 ,어떻게 해야 하는지에 대한 깊은 사유는 시간낭비로 여겨 진다. 많은 정보를 대량으로 암기 해야 한다. 지식을 단순히 흡수 하고 있다. "AI"와 같은 일을 하고 있는 것이다.

"AI"와 같은 방법으로 우리가 그들을 넘어 설 수 있을까?
우리가 가지고 있는 우리만의 고유한 능력을 저버리고 있는 교육에 대해 다시 생각해 보아야 한다. 암기 위주의 교육에서 의미를 이해하는 교육으로 나아가야 한다. 그것이 교육자들이 해결 해야 할 커다란 숙제일 것이다.