추재욱 / 영어영문학과 교수
인공지능 시대의 윤리와 윤리의식
추재욱 / 영어영문학과 교수
2016년 세계 경제 포럼에서 클라우스 슈밥(K.Schwab)이 제시한 4차 산업혁명의 시대에 있어 인공지능은 가장 핵심적인 역할의 수행자다. 인공지능은 실제 우리가 생각하는 것보다도 훨씬 더 우리의 삶 속에 깊이 파고들어 우리의 삶을 변화시키고 있다. 그러한 변화는 인쇄기 발달 혹은 철도의 도입과 같은 기술의 변곡점 그 이상이라 할만하다. 그 변화는 단순히 기계적인 발전을 넘어서 우리의 삶에 인식론적·존재론적 변화, 가치관의 변화 그리고 문화 전반의 변화를 수반한다.
《우리는 어떻게 포스트휴먼이 되었는가》(1999)에서 캐서린 헤일즈(K.Hayles)는 자유주의 인간주체의 핵심은 신체에 있는 것이 아니라 마음에 있다고 주장한다. 커즈와일즈(R.Kurzweil)는 《특이점이 온다》(2005)에서 유전학, 나노기술, 그리고 로봇학의 발전으로 인해 곧 21세기 이후에 인공지능이 인간의 지적 능력을 훨씬 넘어서는 특이점의 시기가 도래할 것이라 말한다. 이러한 확신은 미래의 인간이 단순히 지금까지의 존재론적인 인간이 아닐 수 있다는 사실에 주목한 것이다. 곧 두 학자는 사이버네틱 기반의 사유능력을 소유한 인공지능 역시 인간과 같은 존재론적 지위를 지닐 수 있다는 입장을 직간접적으로 표명한 것이다.
기업과 인공지능: 포스트휴먼 시대의 자본과 윤리
그들의 지적과 같이 인공지능의 출현이 미래인간의 유형인 포스트휴먼의 변화와 진화를 추동하는 큰 힘이 되고 있다. 인공지능은 엄밀히 말하면 무한반복의 기계적 사고기능이지만, 그것 역시 기능적으로 인간의 사유 작용과 크게 다를 바 없다고 여겨진다. 인공지능 로봇은 자연선택에 의한 생존을 위한 생물학적 진화와는 다른 포스트 진화 단계를 거친 기계론적 포스트휴먼이다. 포스트휴먼의 유형인 사이보그, 인공지능 로봇 등이 자율성을 가지고 활동하게 될 특이점 이후의 시대에는 어떠한 인공지능 윤리의식이 필요할까. 과학소설가 아이작 아시모프(I.Asimov)는 자신의 단편소설 《속임수》(1942)에서 로봇의 세 가지 행동 윤리법칙을 다음과 같이 소개하고 있다. 첫째, 로봇은 인간을 다치게 하거나, 행동하지 않아 인간을 위험에 처하게 할 수 없다. 둘째, 로봇은 인간의 명령들-그것들이 첫 번째 법칙에 위반되는 경우를 제외하고-을 따라야 한다. 셋째, 로봇은 자신에 대한 보호가 첫 번째 혹은 두 번째 법칙과 상충되지 않는 한 자신을 보호해야만 한다.
이제 초점은 로봇이 아니라 완벽한 사고능력을 갖춘 인공지능 로봇 혹은 인공지능 사이보그에 있다. 미래에 벌어질 일에 대해 예견한다는 것은 쉽지 않지만, 인공지능의 능력이 인간보다 뛰어난 현시점에서 취할 수 있는 조치는 인공지능 프로그램 구축과정에 있어 필요한 지침을 마련하는 것이다. 인공지능 자체의 행동윤리 지침, 그리고 더 나아가 인공지능의 운용에 필요한 인공지능 운용윤리 지침 등이 그것이다. 현재 국내외 여러 관련 기관들이 아시모프의 원칙을 기본으로 해 다양한 인공지능 윤리지침을 만들어 제시하고 그에 따라 인공지능이 기능할 수 있는 윤리적인 알고리즘을 개발하고 있다. 국내의 경우, 한국로봇산업진흥원이 인간의 존엄성, 공공선 추구, 인간의 행복 추구라는 기본가치와 투명성, 제어가능성, 책무성, 안전성, 정보보호라는 인공지능 개발에 필요한 5대 실천원칙을 제시하고 있다. 이렇게 제시된 윤리지침은 인공지능의 실험 개발과정에서의 시행착오를 거쳐 계속 수정될 수밖에 없다.
반면 인공지능의 극단적인 발달이 인간성의 말살을 초래할 수 있을 것이라 쉽게 예상할 수 있다. 인공지능 시스템은 인간이 인간화될 수 있는 방식을 박탈한다. 인공지능과 같은 지능적 기계가 인간과 사회에 긍정적인 기여를 할 것으로 기대할 수 있겠지만, 과연 인공지능을 생산하는 기업이 자본의 이윤 추구를 우선시 하는 가운데, 기업 목적과 별도로 인공지능 자체가 인간 사회의 윤리, 도덕 체계에 따라 선하게 작동할 수 있을지에 대해서는 회의적이다.
윌리엄 깁슨(W.Gibson)의 《뉴로맨서》(1984)는 인공지능이 활동하는 미래의 세계를 잘 보여주고 있다. 물리적 신체를 지닌 포스트휴먼과 네트워크화된 사이버스페이스 안팎에 존재하는 인공지능의 활동은 자본주의적 기업활동과 긴밀한 관계를 맺는다. 프레드릭 제임슨(F.Jameson)는 그러한 사이버스페이스를 자본주의의 추상화의 한 현상이라 설명한다. 말하자면 자본주의가 테크놀로지의 형태로 그리고 전지구적 형태로 체제화 됐고, 그것이 인터넷과 접속해 추상화되고, 더 나아가 숭고화된 방식이 바로 사이버스페이스라는 것이다. 미래 인공지능이 지배하는 세계는 과도한 자본주의 생산성을 추구한다. 온정적인 인간성은 그 목적에 부합하지 않아 자연스럽게 제거된다. 미래 사회의 핵심적 기업 운용체가 될 인공지능은 자본 중심의 기업적 마인드를 위해 충실히 봉사하게 될 것이 자명하기 때문이다. 곧 기업은 인공지능 체제의 효용성과 인공지능의 경제적 가치에 관심을 두고 자본이윤 창출의 기회만을 노린다. 따라서 공익이 아닌 기업의 이윤만을 추구해 나가는 기업형 사회구조는 궁극적으로 인간을 새로운 자본주의 체제의 노예로 전락시킨다는 염려를 지울 수 없다.
공진화의 방향성: 유토피아/디스토피아
인공지능 시대에 있어서 어디까지가 인간이고 어디까지가 기계인가라는 질문은 반복적으로 제기될 수밖에 없다. 스스로 학습하고 판단할 수 있는 딥러닝 인공지능에 대한 우려는 그것이 언젠가는 인간의 조정과 통제에서 벗어날 수 있다는 생각에서 나온다. 그렇지만 질베르 시몽동(G.Simondon)의 경우는 기계의 자동성보다는 기술과 인간 사이의 상호협력과 공진화를 강조한다. 왜냐하면 기술이야 말로 인간과 자연의 관계를 또 인간과 인간의 관계를 연결하는 매개체라고 보고 있기 때문이다. 본래 인간과 기계는 공진화의 관계 속에 존재하며, 기술의 결과로서 존재하는 다양한 개체들은 기술적 연결망의 관개체적 관계 속에 존재한다. 캐서린 헤일즈는 인간만이 이 관계 시스템 내에서 유일한 배우들이 아니며, 인공지능과 같은 기계 인식자들도 역시 중요한 배우들이라고 지적한다. 그녀의 지적처럼 인간과 기계, 그리고 다양한 개체들은 커즈와일즈가 말하는 특이점의 경계를 넘는 순간 공진화의 운명을 피할 수 없는 것이다.
인공지능과 기계와의 공진화 과정에서 주목해야하는 것은 인간의 사고 체계, 법과 제도의 기능, 성과 젠더의 역할, 생명의 개념, 다양한 주체들의 사회적 관계 방식 등에 있어서의 변화다. 헉슬리(A.Huxley)가 《멋진 신세계》(1932)에서 그려내고 있는 가정과 가족이 해체되고 아이를 공장에서 찍어내는, 기존의 모든 종교가 사라진 후 기계의 신이 숭배되는, 과거의 역사와 문화가 무용지물이 되고 오직 경제적 활동과 소비만이 강조되는 그러한 미래사회는 유발 하라리(Y.Harari)가 《호모 데우스》(2017)에서 예견하고 있는 미래 사회와 크게 다르지 않다. 200년 전 발간된 매리 셸리(M.Shelley)의 《프랑켄슈타인》(1818)에서 신이 되기를 욕망했던 젊은 과학자의 삶과 그의 고백은 10년 혹은 100년 뒤의 인공지능 시대에도 필요로 할 기본적인 생명윤리의 지침-연구자의 책임의식, 법과 이성에 근거한 연구절차, 생명의 존엄성, 연구의 공익성, 그리고 엄정한 연구 중립성-을 잘 제시하고 있다. 그럼에도 불구하고 현재 그리고 미래에 실험실 안팎의 모든 개인들이 ‘나는 누구인가?’라는 근본적인 질문에 계속 스스로 답하지 않는다면 그 젊은 과학자가 범한 실수를 반복할 수밖에 없다. 중요한 것은 삶은 픽션이 아니라는 것이다. 아쉽게도 논픽션의 삶에서 벌어진 치명적 실수엔 두 번 다시 만회할 기회가 쉽사리 주어지지 않는다.