도깨비나라

문제의 핵심은 그거다.

AI 윤리를 걱정해야 할 때가 아니다. 시민 윤리를 먼저 걱정해야지.

=================================

이루다 이루다..

한동안 글들이 많길래 뭔가 하고 봤더니 챗봇이다.

내가 처음 만났던 챗봇은 2000년대 초반 MIT 인공지능 연구 파트에서 제공하던 녀석이었다.

물론 오래전 일이고 영어가 짧았으며 그때는 번역 프로그램도 좋은게 없어서 정확한 평가는 어렵겠지만

크게 달라진 면이 과연 있을가 싶다.

아 물론 그때는 업데이트 주기로

얘가 똑똑해졌다 좀 멍청해졌다 왔다 갔다 하기는 했다.

교수님은 로직이 완전치 않아서 그렇다고 했었고.

아 하고 싶은 얘기는 이게 아니고

이루다에 제기하는 문제들

사실 그거 그만큼 우리 사회 내부에 만연해있단 거다.

그 얘기들이 AI봇을 통해서 나왔기 때문에 문제란 건가? 아니잖아. 그 내용 자체가 문제가 있단 거잖아?

그런데 유독 이루다를 통해 나왔다는 점만 문제 삼는다.

문제의 핵심은 그런 혐오 발언들이 우리 사회 내부에 매우 광범위하게 퍼져있단거다. 그게 잘못된 인식이라고 생각하지 않는 이들이 그만큼 많다는 거고.

내가 아니니까 소수일거라고?

절대. 절대 그렇지 않다.

내가 알고 있는 인공지능 로직을 활용한 프로그램이라면

강화 학습정도는 기본으로 했을거고

그게 다수에게 보일 정도로 표면으로 드러났다면

우리 사회에 매우 많은 숫자가 그런 인식을 하고있다고 봐야 한다.

문제의 핵심은 그거다.

AI 윤리를 걱정해야 할 때가 아니다. 시민 윤리를 먼저 걱정해야지.

https://survey.amnesty.org/votingmodule/s180/f/691428/4c7a/

한국어 지원 당연히 되구요

생각을 천천히 해가면서 해도 5분 정도면 충분합니다~

http://www.youtube.com/watch?v=6FMNFvKEy4c

찰리 채플린의 영화 '위대한 독재자'의 연설장면

오늘 페북을 보다 보니 다시 생각이 난다;

한스짐머의 음악과 참 잘 어울린다.

==========================================================

미안하지만 나는 황제가 되고싶지 않습니다.

그건 내가 할 일이 아닙니다.

누군가를 다스리거나 정복하고 싶지도 않습니다.

가능하다면 모든 이들을 돕고 싶습니다.

유태인, 비유대인, 흑인, 백인이던 간에 

모든 인류가 그렇듯, 우리 모두는 서로 돕기를 원합니다.

남의 불행을 딛고 사는 것이 아니라, 남이 행복한 가운데 살기를 원합니다.

우리는 남을 미워하거나, 경멸하고 싶지 않습니다.

세상에는 모두를 위한 자리가 있고 풍요로운 대지는 모두를 위한 양식을 줍니다.

인생은 자유롭고 아름다울 수 있는데도 우리는 그 방법을 잃고 말았습니다.

탐욕이 인간의 영혼을 중독시키고 

세계를 증오의 장벽으로 가로막았는가 하면

우리에게 불행과 죽음을 가져왔습니다.

빠른 발전을 이룩했지만 우리 자신은 갇혀버리고 말았습니다.

대량생산을 가능하게 한 기계는 우리에게 결핍을 가져다 준 것입니다.

지식은 우리를 냉정하고 냉소적으로 만들었습니다. 

생각은 너무 많이 하면서도 느끼는 것은 거의 없습니다.

기계보다는 인간성이 더욱 필요하고 지식보다는 친절과 관용이 더욱 필요합니다.

그렇지 않으면 인생은 비참해지고 결국 모든 것을 잃게 될 것입니다.

비행기와 라디오방송은 우리를 더욱 가깝게 연결 시켰습니다.

이러한 발명의 진짜 의도는 인간의 선함에 전 지구적 형제애와 우리 모두의 화합을 호소하기 위함입니다.

지금도 내 목소리가 세계 방방곡곡에 퍼져나가 

인간을 고문하고 죄없는 사람들은 가두는 제도에 희생된 수백만의 절망하고 있는 남녀노소에게 까지 들리고 있지 않습니까?

지금 내 말을 듣고 있는 사람들에게 전합니다.

절망하지 마십시오

우리가 겪는 불행은 탐욕에서, 인류의 발전을 두려워하는 자들의 조소에서 비롯된 것입니다.

증오는 지나가고 독재자들은 사라질 것이며 그들이 인류로 부터 앗아간 힘은 제자리를 찾을 것입니다.

인간이 그것을 위해 죽는 한 자유는 결코 소멸되지 않을 것입니다.

군인들이여, 그대들을 경멸하고 노예들 처럼 다루며 

당신들의 행동과 사고와 감정 당신들의 삶까지 통제할 뿐 아니라 당신들을 짐승처럼 다루고 조련하여 총알받이로 만들고 있는 이 잔인무도한 자들에게 굴복하지 마시오

이런 비 인간적인 자들에게 

기계의 지성과 마음을 가진, 기계나 다름없는 자들에게 굴복하지 마시오

당신들은 기계가 아닙니다.

당신들은 가축도 아닙니다.

당신들은 인간입니다.

당신들의 마음속에는 인류에 대한 사랑이 숨쉬고 있습니다.

증오하지 마십시오. 비인간적인 자들만이 증오합니다.

군인들이여, 노예제도를 위해 싸우지말고 자유를 위해 투쟁하십시오.

누가복음 17장에서 "주의 나라는 인간들 사이에 있다"라고 했습니다.

한 사람, 한 무리가 아니라 인간 전체에 바로 당신들 마음속에 있는 것입니다.

기계를 창조할 능력을 지닌 당신들은 행복을 창조할 수 있는 힘도 지닌 것입니다.

삶을 자유롭고 아름답게 멋진 모험으로 만들 수 있는 힘을 지닌 것입니다.

그러니, 민주주의의 이름으로 그 힘을 사용하여 화합을 이룩합시다.

새로운 세계를 위해 투쟁합시다. 

모든 이에게는 일할 기회를, 젊은이에게는 미래를, 노인들에게는 안정을 제공할 훌륭한 세계를 건설하기 위해 싸웁시다.

짐승같은 무리들도 이것을 약속하며 권력을 키웠지만 

그들의 약속은 지켜지지 않았으며, 앞으로도 절대 지키지 않을 것입니다.

그들은 스스로를 자유롭게 하면서 민중은 노예로 전락시켰습니다. 

이제 그들이 했던 약속을 이행하기 위해 싸웁시다.

세계를 해방시키고 나라간의 경계를 없애며 탐욕과 증오와 배척을 없애도록 함께 투쟁합시다.

이성이 다스리는 세계, 과학의 발전이 모두에게 행복을 주는 세계를 만들도록 함께 투쟁합시다.

군인들이며, 민주주의라는 이름 아래 하나로 뭉칩시다.

지금으로부터 241년전인 1763년 영조와 왕세손(훗날 정조)간의 대화다.

임금이 대신과 비국 당상을 인견하고 윤음(綸音)을 써서 조급하다는 것으로 뭇 신하들을 계칙하도록 명하였다. 이때 왕세손(王世孫)이 시좌(侍坐)하고 있었는데, 임금이 하문하기를,

241년전의 조선인들이 부러운 마음이 든다 ㅋㅋ

6월11일자 오마이뉴스 기사

http://www.ohmynews.com/NWS_Web/View/at_pg.aspx?CNTN_CD=A0002001531

주변 사람들은 JTBC뉴스 다 보는데

나만 안보고

나만 지지하지 않는 

그 이유가 바로 이거다.

손석희 그분은 분명 이 시대의 훌륭한 언론인 중 한분이다. 그걸 부정하지는 않는다.

그 하나의 영향으로 끼친 영향이 작다고 생각되지도 않는다.

그러나 더 중요한건 시스템이다.

시스템이 변하지 않으면 분명 한계가 온다.

삼성-홍석현-중앙일보 미디어 그룹이 원하는게 그것이 아닐까?

삼성은 손석희라는 언론인의 상품성을 사서 시청자들에게 파는 중이고

그 가치가 다하면 언제든 판매중지 할 수 있는거 아닌가?

오마이 뉴스의 6월 9일자 기사

http://www.ohmynews.com/NWS_Web/View/at_pg.aspx?CNTN_CD=A0002001089

아... 영화 '나는 전설이다'에서 극장판 결말보다 DVD판 결말이 더 마음에 들었었는데

그게 원작에 가까워서 그랬던 거였구나...

내용을 모르는 분들을 위에 잠깐 설명을 하자면

극장판 결말과는 달리

DVD판 결말에서 로버트 네빌 박사는 좀비들과 끝부분에 자폭하지 않는다.

여성 좀비를 그들의 무리에 넘겨주고

그 무리도 박사를 죽이지 않는다.

즉, 영화에서는 좀비를 '틀린'대상, 치유의 대상으로 봤다면

DVD판에서는 '다른'대상으로 본 것이다.

엔딩크레딧이 올라가기 전 아이와 함께 셋이서 차를 타고 떠나는 장면으로 끝난다.

'다수'는 '옳음'이 아니다. '다수'가 '평범함'이 될 수는 있다.

'이성애자'들이 '동성애자'들을 보면서 불편할 수는 있다. 그러나 그들이 틀렸다고 말해서는 안된다.

선거가 하루 남았다.

대략적인 판세를 보니 여권의 우세승 분위기네;;

광역단체장과 기초단체장 수에서 야권이 다수를 차지한다 해도, 세월호사태라는 이슈가 있었음에도 이정도 판세라면 여권의 선방이라 봐야할 듯 하고

뭐 방송이 완전히 장악 당한 상태에서, 어젠다 선정에 불리한 위치에 있고 이 사회의 전반적인 우편향을 고려하면 어쩔 수 없는 현실이라 볼 수도 있지만

야권 지도부의 선거 전략 부재는 진짜 답이 안나오네;;

김한길 얘는 최소한의 양심도 없나? 있다면 이번 선거 끝나고 알아서 좀 물러나라;;

그리고 안철수... 하... 이양반 보면 참 한숨만 나온다

그 개인의 인물됨이야 분명 존경받아 마땅하다... 근데 정치는... 결국 매 순간이 선택의 연속이고 사람 싸움인 것을... 어떤 사람을 내 사람으로 만드는지가 결정하는 건데...

한계가 분명히 보인다 안타깝게도;

광주와 안산시에 전략공천의 수를 던진게 안철수의 판단이라 생각되진 않는다.(혹시 그런거면 정치 그만 둬야 되는 수준인거고 -_-;)

의도는 알겠는데 길게 보면 득보다 실이 더 많은 수다. 그 결과와 관계 없이.

어차피 정당 정치에 뛰어들었으면 한두번 해보고 그만둘 생각은 아닌거 같고... 이번 선거 반면교사 삼아서 정치적으로 좀 성장하는 모습을 보여줬음 하네;;

내 생각과는 다르게 새누리가 참패하는 모습을 봤음 하는 희망을 가져 보긴 하는데... 아훔... 내일 선거방송을 봐야 하나 말아야 하나... 

사전투표 했는데 어디로 놀러가지? ㅋ

간만에 정말 재미있게 본 작품이다.

다만 흥행을 하기에는 너무(지나치게)잘 만들었다. 

차라리 이퀼리브리엄 처럼 액션신이라도 좀 많은 모르겠는데, 심지어 그 영화도 대중적인 흥행은 못했지만

제작정보를 자세히 보기 전에는 조나단 놀란의 각본인 줄 알았다. 그정도로 A.I에 대한 이해가 깊지 않으면 만들기 힘든 작품이었다.

다만 그렇기 때문에, A.I에 대한 사전 지식이나, 요즘 연구의 흐름을 알지 못한다면 이 영화의 주된 갈등구조에 집중하기가 어려울 것 같았다.

인공지능 연구에 관한 세가지 견해가 있다.

1. 이원론적 사고 : 인간의 정신, 영혼등은 다른 무엇으로 환원 불가능한 고유의 것이다.

2. 속성이원론적 사고 : 인간의 감각, 감정등은 전기적 화학적 신호로 표현 가능하나, 그것으로 설명할 수 없는 무엇인가가 있다.

3. 일원론적 사고 : 인간의 모든 행동은 전기, 화학적 신호로 치환 가능하고 이것을 완벽히 해석해 낼 수 있다면 재현하는 것도 가능하다.

Strong A.I에 대한 믿음을 지닌 학자들은 대부분 일원론적 접근법을 선호하고(당연하겠지만), 일부 속성이원론 학자들의 경우 강한 종교적인 배경을 지닌 경우가 많다. 이 영화의 맥스 역시 영화 끝부분에 보면 십자가 목걸이를 하고 있다.(앞부분에서는 신경을 못써서 하고 있었는지 확실치가 않고... )

Strong A.I가 실현 가능하다면 과연 구현해야 할 것인가에 대한 윤리적, 철학적 논쟁은 또 다른 문제이다. 이 영화에서의 윌과 조세프 처럼.

과거 인공지능을 다룬 영화의 경우 기술 자체에 대한 철학적 담론은 크지 않았다. 심지어 리들리 스콧의 블레이드 런너에서 조차도

하지만 요즘 영화나 드라마를 보면 분위기가 좀 다르다.

프로메테우스에서 데이빗이 피터에게 초기 유기물을 먹도록 만드는 장면이나

Person of Interest에서 데시마의 대리인이 핀처와 나누는 대화

그리고 이 영화에서 윌이 영화 막바지에 하는 말들...

이런 장면을 보면 Strong A.I가 구현 가능하다면 하는 것이 옳은 것인가, 그렇다면 그걸 어떻게 봐야하고 받아들여야 하나, 통제의 대상으로 볼 것인가 하나의 자유 의지(인간과 같은)의 대상으로 볼 것인가... 이런 고민들이 드러난다.

대충 짐작해 보자면, 일반 대중들에게는 공개되지 않고 있으나 실험실 안에서는 A.I에 대한 어떤 진보가 있지 않았나 싶기도 하고...

아... 이 영화를 보며 가장 놀랐던 점 중 하나는, 영화를 통틀어 Strong A.I 라는 표현이 딱 한번 등장한다는 점이다. 조셉이 윌에게 이 곳을 제외한 모든 연구실이 파괴되어 Strong A.I 연구를 지속할 수 있는 곳이 여기 뿐이라는 말을 할 때.(아 물론 더 나왔지만 내가 놓쳤을 가능성도 있긴 하다 ㅋㅋ)

링크는 허밍턴포스트코리아의 기사입니다.

http://www.huffingtonpost.kr/2014/04/23/story_n_5202731.html

언론학을 공부한 적이 없으니 무엇이 옳은 방법인지 확신이 들지 않는다.

다만 상식선에서 생각해볼 것들은 있다.

1. 렌즈는 팩트를 담아야 하고 가치중립적이어야 한다.

2. 멘트는 팩트에 더해 발언자의 가치를 담을 수 있으나, 두가지가 혼동되어서는 안된다.

3. 뉴스의 한 꼭지에서는 한가지에만 촛점을 맞춰야 한다.

4. 입체적인 보도는 다양한 촛점을 다룬 여러 꼭지가 합쳐져 이루어 져야 한다.

개인적으로 보도 프로그램을 평가하는 지표다.

내가 우리나라의 TV 뉴스프로그램을 보지 않는 이유이기도 하다.

아...손석희씩의 JTBC뉴스에 우호적인 평가를 하는 분들이 급속히 늘고있기는 하다.  그분이  그 자리에 있으며 일으킨 긍정적인 면들을 평가절하 하고 싶지는 않다. 하지만 그분이 계신 곳이 JTBC라는 사실 하나만으로도 난 절대 우호적인 평가를 내일 수가 없다.

말씀 한마디 한마디가 정말 큰 울림이다.

기사내용 몇가지만 추리려 했는데, 고르다 보니 반 이상이 되어 버렸다.  그래도 기사 전문을 꼭 한번 읽어보길 바랍니다.

http://www.hani.co.kr/arti/society/society_general/618266.html?_fr=mt1r

“독지가라 쓰지 말라”는 인터뷰 조건

-“내가 탄광을 한 사람인데…. 사람들이 많이 다치고 죽었다. 난 칭찬받는 일이나 이름나는 일에 끼면 안 된다.”

-도움 받은 사람들이 있는데 왜 도운 사실을 숨기나?

“난 도운 적 없다. 도움이란, 남의 일을 할 때 쓰는 말이지. 난 내 몫의, 내 일을 한 거다. 누가 내 도움을 받았다고 말하는지는 몰라도 나까지 그렇게 생각하면 안 될 일이다.”

-왜 안 되나?

“그게 내가 썩는 길이다. 내 일인데 자기 일 아닌 걸 남 위해 했다고 하면, 위선이 된다.”

-그럴수록 돈을 벌어서 민주화운동을 지원해야 하는 것 아닌가?

“사업을 해보니까… 돈 버는 게 정말 위험한 일이더라. 사람들이 잘 모르는데, ‘돈 쓰는 재미’보다 몇천배 강한 게 ‘돈 버는 재미’다. 돈 버는 일을 하다 보면 어떻게 하면 돈이 더 벌릴지 자꾸 보인다. 그 매력이 어찌나 강한지, 아무도 거기서 빠져나올 수가 없다. 어떤 이유로든 사업을 하게 되면 자꾸 끌려드는 거지. 정의고 나발이고, 삶의 목적도 다 부수적이 된다.”

-중독이 되는 건가?

“중독이라고 하면, 나쁜 거라는 의식이라도 있지. 이건 중독도 아니고 그냥 ‘신앙’이 된다. 돈 버는 게 신앙이 되고 권력이, 명예가 신앙이 된다. 그래서 ‘아, 나로서는 더 이상 깜냥이 안 되니, 더 휘말리기 전에 그만둬야지’ 생각했다.”

“우리 아버님도 일제 치하 왜곡된 시대에 살았기 때문에 성공 자체를 그리 자랑스럽게 생각하지 않으신다. 부끄러운 시절에 잘산 것이 자랑일 수 없다는 걸 잘 아는 사람이다. 아버지가 과거 얘기를 나한테 하신 적이 없어서, 내가 아는 것도 다 남한테 드문드문 들은 거다.”

-서울대 철학과까지 나오신 분이 지식을 안 믿는다니?

“지식을 가지면 ‘잘못된 옳은 소리’를 하기가 쉽다. 사람들은 ‘잘못 알고 있는 것’만 고정관념이라고 생각하는데 ‘확실하게 아는 것’도 고정관념이다. 세상에 ‘정답’이란 건 없다. 한 가지 문제에는 무수한 ‘해답’이 있을 뿐, 평생 그 해답을 찾기도 힘든데, 나만 옳고 나머지는 다 틀린 ‘정답’이라니…. 이건 군사독재가 만든 악습이다. 박정희 이전엔 ‘정답’이란 말을 안 썼다. 모든 ‘옳다’는 소리에는 반드시 잘못이 있다.”

-반드시?

“반드시! 햇빛이 있으면 그늘이 있듯이, 옳은 소리에는 반드시 오류가 있는 법이다.”

-이순재씨가 선배라면서 왜 반말을 쓰시나?

“나이로는 순재가 나보다 한 살 많은데. 내가 중학 때부터 후배한테는 예대(禮待)하고 선배한테는 반말했다. 나랑 친구 할래, 선배 할래? 물어보고 친구 한다고 하면 반말로…. 후배한테 반말하는 건 왜놈 습관이라, 그게 싫어서 난 후배한테 반말하지 않는다.”

-원래 조선 풍습은 후배한테 반말 안 쓰는 건가?

“퇴계는 26살 어린 기대승이랑 논쟁 벌이면서도 반말 안 했다. 형제끼리도 아우한테 ‘~허게’를 쓰지, ‘얘, 쟤…’ 하면서 반말은 쓰지 않았다. 하대(下待)는 일본 사람 습관이다.”

-기업가가 자기 개인재산을 출연해서 공익재단을 만드는 경우도 있지 않은가?

“(흥분한 어조로) 자기 개인 재산이란 게 어딨나? 다 이 세상 거지. 공산당 얘기가 아니다. 재산은 세상 것이다. 이 세상 것을 내가 잠시 맡아서 잘한 것뿐이다. 그럼 세상에 나눠야 해. 그건 자식한테 물려줄 게 아니다. 애초부터 내 것이 아닌데, 재단은 무슨…. 더 잘 쓰는 사람한테 그냥 주면 된다.”

“세상엔 장의사적인 직업과 산파적인 직업이 있다. 갈등이 필요한 세력, 모순이 있어야만 사는 세력이 장의사적인 직업인데, 판사 검사 변호사들은 범죄가 있어야 먹고살고 남의 불행이 있어야 성립하는 직업들 아닌가. 그중에 제일 고약한 게, 갈등이 있어야 설 자리가 생기는 정치가들이다. 이념이고 뭐고 중요하지 않다. 남의 사이가 나빠져야만 말발 서고 화목하면 못 견디는…. 난 그걸 장의사적인 직업이라고 한다.”

-요즘 청년들이 “안녕들 하십니까” 대자보를 이어가고 있다. 어떻게 보시나?

“아주 고마워! 젊은 사람들 그렇게 하는 게 얼마나 고마운지 모르겠다. 그렇게라도 살아 있어줘서 얼마나 다행인지…. 날조 조작하는 이 언론판에 조종당하지 않고 그렇게 터져 나오니 참 고마워. 역시 젊은 놈들이 믿을 만하구나. 암만 늙은이들이 잘못해도 그 덕에 사는구나 하고….”

-“쓴맛이 사는 맛이다… 그래도 단맛이 달더라.” 뭐가 인생의 단맛이던가?

“사람들과 좋은 마음으로 같이 바라고 그런 마음이 서로 통할 때…. 그땐 참 달다.(웃음)”