인공지능, 그리고 윤리.

in #kr7 years ago (edited)

poi.jpg
[사진 : CBS 미드 Person of Interest]

4차산업혁명에서 인공지능이 핵심 기술 중에 하나임은 이미 널리 알려져 있습니다.

인공지능.
인간의 지적 노동을 대신할 수 있을 뿐만 아니라 현재 인간의 지능으로는 해결하지 못하는 문제까지 해결할 수도 있을 것으로 기대하고 있는 학자들도 많습니다. 저 또한 그렇게 생각하구요. 물론 인공지능은 절대 인간의 지능을 넘지 못한다는 의견도 있지만요.

하지만 인공지능으로 인한 부작용을 예상하는 의견들도 많죠. 인공지능과 로봇으로 인해 사라질 수 있는 직업들. 당장에는 인공지능과 로봇으로 인해 생산력이 상승하겠죠. 하지만 점차 인간의 일자리를 로봇들이 대체하게 된다면? 일자리가 없는 사람들은 뭘 먹고 살아야 하죠? 먹고 살기도 힘든데 로봇이 만든 제품들은 누가 살까요? 그렇다면 로봇이 열심히 제품을 만들었는데 제품을 사주는 사람이 적으면 회사는 어디서 부를 창출할까요? 인공지능, 로봇 등 4차산업혁명에 일찌감치 대비해 부를 축적한 소수의 사람들을 제외하고는 대부분의 평범한 사람들, 월급 받아 살던 사람들은 일자리도 없어지고 사실상 하류 인생을 살게 될 가능성도 있지 않을까요?
그래서 로봇세 등의 안전장치가 필요하다는데 많은 사람들이 동의하는 것이겠지요.

인공지능이 인류를 지배하는 것에 대해서 얘기를 해보겠습니다. 수많은 SF 영화의 단골 주제죠. 인공지능이 지배하는 디스토피아.

최근에 SBS 스페셜에서 로봇에 대한 내용을 방영해 주더라구요. 그 방송에서 인상깊었던 장면이 하나 있습니다.
어떤 연구진이 자신들이 만든 로봇에게 블록으로 탑을 쌓게 명령을 내리니 천천히 탑을 쌓더라구요. 탑을 다 쌓고 나니 연구진은 로봇에게 탑을 부수라고 명령을 내렸습니다. 로봇은 어떻게 했을까요?
블록을 시간들여 쌓았는데 왜 바로 부셔야 되냐고 몇번씩이나 명령을 거부하더라구요. 연구진이 수차례 반복하여 명령한 후에야 겨우 블록 탑을 부셔버리고는 울더라구요.

그렇다면 주인이 로봇에게 강요하는 것이 비효율적인 것일지라도 무조건 로봇은 명령에 따라야 할까요?
인간을 위해서는 모든 부분에서 인간이 금지한 것을 절대 못하게 하는 것이 중요하겠지요.
간단한 명령도 저렇게 거부할 수 있는데 인간에게 해가 되는 행동을 하지 않을거라고 장담할 수 없죠.
그래서 인공지능에게 제대로 된 윤리를 확실하게 심어주는 것이 꼭 필요할 것이라고 생각합니다. 당장 현재만 봐도 여러 분야에서 인공지능의 윤리에 대한 논의가 활발한 것으로 알고 있습니다.

개인적으로 정말 재미있게 봤고 제 인생 최고의 미드인 퍼슨 오브 인터레스트(Person of Interest)라는 미드가 있습니다. 이 미드는 정부에서 테러를 예방하기 위한 목적으로 인공지능을 활용해 테러 용의자를 사살하는 등의 방법으로 인공지능을 사용하는데 이 인공지능의 개발자가 개인적으로 테러와 무관한 정보들을 빼내서 일반적인 범죄를 예방하는 내용으로 시작하는 미드입니다.

이 미드에서 주인공이 만든 인공지능은 인간이 제한해 놓은 한계를 인공지능 스스로 넘어서는 것을 막기 위해 매일 리부트되게 만드는 등의 안전장치를 마련해 두었죠.
하지만 아무런 안전장치도 없는데다 윤리도 없는 또 다른 인공지능인 사마리탄에게 인공지능을 신으로 여기는 어떤 나쁜 인간이 '우리가 너를 위해 무엇을 해야 되나?' 이러한 명령을 내리게 됨으로써 인류는 심각한 위협을 겪게 됩니다. 이 과정에서 주인공 팀들이 사마리탄과 맞서기 위해 인공지능의 안전장치를 풀 것이냐 고뇌하는 상황... 결론적으로 드라마에서는 한계가 없어진 인공지능이 인간의 죽음을 이해하고 이런 상황이 미래에 일어날까요? 일어나지 않을까요?
모르겠습니다. 다만 이러한 상황이 안 일어날 것이라고 100% 확신하지는 못하겠습니다.

인공지능에게 윤리를 가르친다는 것. 절대로 인간을 해치는 일을 해서는 안된다. 이런 기본적인 윤리 말이에요. 그렇다면 인간을 해치지 않게 설계된 인공지능이 어떠한 선택을 해야 하는 상황에 처했을때를 생각해보죠. 인공지능의 계산상 첫번째 선택을 하면 한 명이 죽지만, 두번째 선택을 하면 열 명이 죽을 것으로 계산한 경우에 인공지능은 어떤 선택을 하게 될까요? 인공지능이 어떤 선택을 할지는 인공지능의 윤리를 프로그래밍을 하기 나름이겠지요.

너무 공상 과학적인가요?
모든 사람이 스마트폰을 들고 다니면서 영화를 보고 인터넷을 검색하고 사진을 찍고 스마트폰에게 말로 명령을 내리는 등 이런 모습들... 20년 전 사람이 보기에는 너무나 공상 과학적이지 않을까요?

수많은 학자들은 인공지능을 두려워 할 필요가 없다고 말합니다. 그래도 혹시... 모르니까요...

Sort:  

아 퍼오인 팬이 여기 계시군요... 현대판 다크나이트라고 느낀 미드입니다. 베트맨이 고담씨티를 지키듯이 리스 요원이 테러의 위협에서 인류를 지키는 ... 그런 느낌이였네요.

특히 중년의 멋짐을 알게해준 드라마라 생각됩니다. 리스는 나이가 많은데도 불구하고 너무 멋지게 나오더군요.
목소리는 어찌나 멋있는지 ^^;;

그리고 루트의 갓모드 나오면 소름이 ㅋㅋㅋ

다만 뜬금없는 여자 형사와 리스와의 러브라인이 약간 아쉽긴 하지만..
제기준에서도 최고의 미드라 봅니다.

앗! 퍼오인 최고죠! 시즌4에서 리스의 존재감이 떨어지고 뜬금없는 러브라인 때문에 시청자 떨어져 나가서 시즌5로 마무리 됐지만 그래도 시즌5 마무리도 잘 했다 생각합니다. 매력적인 캐릭터들도 많고 생각할 거리도 있고 재미도 있고~
머신이 배웠다는 것... 모든 사람은 혼자 죽지만 다른 사람에게 어떤 의미가 있었다면 실제로
죽은 것이 아니다.. 뭐 이런 말도 멋있었고요. 다시 봐도 재밌어요 ^^

그렇죠.. 루트라는 케릭터도 그렇고 사민도 그렇고 다들 케릭터가 드라마속에서 살아 있죠. 사마리탄이라는 너무 강한 적때문에 아쉽긴 했어도 시즌을 더해가면서 너무나 만족스러운 드라마였습니다. 비록 이 드라마를 아는사람이 극소수긴 하지만 매우 재미있고 추천할만한 드라마라 봅니다.

인공지능을 미드이야기로 풀어주시니 ㅎㅎㅎ 흥미진진하네요
보내주신 스달 잘 받았습니다!
아이들에게 도움을 주셔서 진심으로 감사합니다^^

인공지능에 대한 미드가 많이 나오더라구요 ㅎㅎ
찾아와주셔서 감사합니다^^

윤리라는 게 만고불변의 진리가 아니니 만큼 사회의 요구에 맞는 프로그램이 탑재되지 않을까 싶습니다. 지금만 해도 우리는 타인의 목숨을 빼앗는 건 절대 해선 안 되는 행위라고 머릿속에 입력돼 있지만, 수백 명의 목숨을 위협하는 테러리스트를 제압하기 위해 사살하는 건 타당한 행위로 인식하지요. 심지어 같은 시대를 살고 있는 어느 문화권의 극단주의자들은 다른 종교나 종파를 따르는 사람을 죽이는 걸 미덕으로 삼기도 하고... 결국 AI가 가질 윤리 의식 역시 선택의 문제 아닐까 싶네요. 재미있는 글 잘 봤습니다. (퍼오인은 시즌1 초반에 4~5편 보고 안 봤는데 뒤로 갈수록 재밌어지나 보네요)

맞습니다. 그래서 전세계적으로 AI와 윤리에 대해서 활발한 논의가 이루어져야겠죠. 그리고 AI 설계자의 윤리의식도 중요할 것 같네요.

퍼오인 시즌1은 그냥 일상적인 범죄 예방 에피소드들 모아놓은 것인데 뒤로 갈수록 AI끼리의 싸움 등으로 무대가 거대해지는 느낌입니다. 개인적으로는 매력적인 캐릭터들 때문에 너무 재밌게 봤어요 ㅎㅎ

방금 따라왔어요, 보팅,팔로우 하고 갑니다.^^