(2023 #76) AI쇼크, 다가올 미래 | 모 가댓 지음, 강주현 옮김

 

AI 쇼크, 다가올 미래

저자는 AI가 이제 태동기에 있고, 이 AI가 2049년에는 인간보다 똑똑해질 것이라 예상하고 있다.

이렇게 됐을 때.... 태동기인 지금, 이 AI에 어떤 데이터를 주입하여 학습하느냐에 따라

이 AI가... 비극이 될 지, 인간에게 유용한 존재가 될 지에 대하여 판가름 나니..

지금부터 이 AI를 잘 다루도록 우리가 다 합의를 이루자...

뭐 이런 책이다.

 

기본적으로 맞는 말이라 생각이 든다.

저자가 AI를 핵협정에 비유하며 말했듯이,

이것은 정말 전 세계가 이러한 합의를 이루어야 가능한 방향성일 것이다.

 

하지만, 정말 그럴 수 있을까???

지금의 이렇게 파편화 되어 있고, 양극단에서 서로를 증오하는 이런 세계 속에서

과연 이런 치우침 없는 데이터들을 학습할 수 있을까???

솔직히 말해서 많이 회의적이다.

 

AI에 대한 거대담론으로서,

참고할 만한 책이라 생각이 든다.

 

---

p12

오늘날 테크놀로지는 우리 행성만이 아니라 그곳에 거주하는 우리에게도 전대미문의 위협을 가하고 있다. 이 책은 컴퓨터 프로그램 코드를 작성하는 공학자들, 자신들이 그 위협을 규제할 수 있다고 주장하는 정책 결정자들, 그 위협에 대해 끊임없이 소동을 일으키는 전문가들을 위해 쓰인 게 아니다. 내가 여기에서 말하려는 것을 그들은 모두 이미 알고 있다. 이 책은 당신과 절친한 친구, 그리고 이웃을 위해 쓰인 것이다. 믿기 힘들겠지만 우리가 우리 미래를 만들어갈 수 있는 유일한 존재이기 때문이다. 우리가 다 함께 책임 의식을 갖고 올바르게 행동하겠다고 약속해야만 한다. 이 책은 간략하게 말해 조직적인 운동, 저항의 시작을 알리는 책이다.

 

p23

결국 우리가 작성하는 프로그램이 인공지능에게 결정과 선택을 명령하는 것이 아니다. 우리가 인공지능에 제공하는 자료에 따라 인공지능의 형태가 결정된다.

 

p238

당신이라면 내가 이 논리를 어디로 끌어가려는지 충분히 짐작할 것이다. 인공지능의 미래를 결정하는 것은 씨, 즉 우리가 인공지능을 처음에 프로그램한 방법이 아니다. 중요한 것은 밭, 즉 인공지능이 학습하는 환경이다. 달리 말하면 인공지능이 일련의 윤리관과 가치관을 갖도록 훈련시켜야 한다는 뜻이다. 이 문제는 지금도 뜨겁게 토론되는 과제이기도 하다.

미래의 인공지능은 어마어마한 지능을 갖겠지만 윤리관 확립에는 높은 지능이 필요한 게 아니다. 정말 필요한 것은 자각하고 공감하는 능력이다. 그럼 인공지능이 세상의 이치와 도리를 분별하는 능력을 가질 수 있을까? 인공지능이 감정을 가질 수 있을까? 인공지능 행태에 윤리가 영향을 미칠 수 있을까? 세 질문의 답은 이론의 여지가 없이 절대적으로 '그렇다'이다.

 

p381

이 책에서 줄곧 말했듯이 우리는 유아 단계에 있는 인공지능의 부모다. 어린아이가 그렇듯 인공지능 형성에 영향을 주는 것은 우리가 인공지능에게 내리는 명령이 아니라, 우리의 행동이다. 우리가 서로를, 또 지구를 대하는 태도가 인공지능의 도덕성에 영향을 줄 것이다. 우리의 처신과 행동이 어린 인공지능들의 미래에 영향을 줄 것이다. 이 책을 끝내며 나는 당신에게 매우 중대한 질문 하나를 남기고 싶다.

당신은 어찌할 것인가?

 

p383

결국 사용자인 인간이 인공지능에게 어떤 자료를 주느냐에 따라 인공지능의 행태가 달라진다. 따라서 모 가댓은 "우리의 미래를 만들어갈 수 있는 유일한 존재"는 우리라고 말한다. 달리 말하면 인공지능으로 인해 야기될 수 있는 암울한 미래를 바로잡을 수 있는 유일한 사람은 바로 우리뿐이란 뜻이다.

그러나 조건이 있다. 우리가 다 함께 책임 의식을 갖고 올바르게 행동하겠다고 약속해야만 한다. 현실을 냉정하게 들여다보면 암울한 가능성이 현실화될 듯하다. 첫 단락에서 말한 진영 간의 대립은 우리나라만의 현상은 아닌듯하다. 게다가 거기에는 이론적 대립을 넘어선 인격 말살에 가까운 욕설이 난무한다. 똑똑한 인공지능이 이런 우리를 보고 어떻게 판단할까? 자신의 존립에 도움이 된다고 판단할까, 불필요한 걸림돌이라 판단할까?