인공지능의 미래를 이야기할 때에는 서로 다른 질문이 한 문장에 포개지곤 합니다. 일을 잘하는 기계가 무엇을 원하게 될지, 통제할 수 있는지, 의식을 갖는지는 같은 문제가 아닙니다. 『라이프 3.0』을 읽고 남길 것은 미래의 날짜를 맞히는 답보다, 이 질문들을 구별하면서도 함께 생각하는 힘이라고 보았습니다.
자동화와 직업, 목표와 통제, 초지능의 시나리오와 가치의 선택을 차례로 살핍니다. 인상적인 전망이 어떤 가정 위에 서 있는지, 뒤에 나온 연구가 그 전망의 어느 부분에 힘을 보태거나 조건을 붙이는지 따져 봅니다. 기술의 능력을 설명하는 문장과 우리가 바라는 사회를 말하는 문장을 섞지 않는 것도 중요한 읽기입니다.
열 장은 AI의 미래를 말하기 전에 구분해야 할 질문에서 시작합니다. 자동화와 직업, 목표를 가진 기계의 예상 밖 행동, 통제 문제와 초지능 시나리오를 읽고 의식과 가치 선택을 살핍니다. 거버넌스와 책 이후의 현실을 거쳐 짧은 설명과 원전의 재독 지점을 정리합니다.
특정 과업을 더 빨리 끝냈다는 결과에서 일자리 전체가 바뀐다는 결론으로 넘어가려면 추가 조건이 필요합니다. 사고실험의 인상적인 결말도 미래의 날짜를 알려 주는 예보와는 다릅니다. 능력과 권한, 자원과 인간의 선택이 어떤 경로로 이어지는지 살피며 관찰된 결과와 가능한 시나리오를 나눕니다.
마음에 남는 주장 하나를 고른 뒤, 그 주장에 필요한 전제와 받아들이기 어려운 지점을 나란히 적어 보십시오. 모든 가능성에 곧바로 찬성하거나 반대하실 필요는 없습니다. 낙관과 두려움 사이에서 더 구체적인 질문을 갖게 되신다면, 이 책은 제 몫을 다한 셈입니다. AI에 관한 낙관과 불안을 접하며 논의의 기준을 찾는 독자, 테그마크의 전망을 후속 질문과 함께 다시 읽고 싶은 사람에게 맞습니다. 기술의 수행 능력과 사회가 선택해야 할 가치를 같은 문장으로 처리하지 않도록 돕습니다. 어떤 주장에 힘을 보탤 수 있고 어디에는 아직 다른 근거가 필요한지 더 구체적으로 설명할 수 있습니다. 원전의 질문을 다시 읽을 구체적인 방향을 제시합니다.