Vol.03 [이해] 더 커밍 웨이브
THE COMING WAVE

Hansoledit Series 02 · AI & Organization
📅 10월 19일(월)

무스타파 술레이만 지음 · 마이클 바스카 정리 · 이정미 옮김 · 한스미디어(2024)
저자: Microsoft AI CEO, 딥마인드 공동 창업자

―――――――――――――――――――

두 달 만에 사용자가 1억 명에 이르렀습니다

2022년 말 공개된 오픈AI의 챗GPT는 두 달 만에 월간 활성 사용자 1억 명에 도달한 것으로 추정됐습니다.
같은 수에 이르기까지 인스타그램은 약 2년 반, 틱톡은 약 9개월이 걸렸습니다.
스위스 투자은행 UBS는 지난 20년간 이처럼 빠르게 성장한 소비자용 서비스를 본 적이 없다고 평가했습니다.

AI는 이미 기획과 분석, 글쓰기와 상담 등 다양한 업무에 쓰이고 있습니다.
이제 질문은 도입 여부를 넘어, 어떤 일에 어떤 기준으로 활용할 것인가로 옮겨 가고 있습니다.

―――――――――――――――――――

2024년, AI 연구자들이 노벨상을 받았습니다

2024년 노벨 물리학상은 인공 신경망을 활용한 기계학습의 기초 연구에, 화학상은 단백질 설계와 구조 예측 연구에 수여됐습니다.
이 가운데 단백질 구조 예측 부문의 수상 업적이 AI 시스템 '알파폴드'입니다.
알파폴드가 공개한 약 2억 개의 단백질 구조 예측 결과는 2024년 기준 190개국 연구자 200만 명 이상이 활용했습니다.

알파폴드를 개발한 딥마인드의 공동 창업자 중 한 사람이 이 책의 저자 무스타파 술레이만입니다.

―――――――――――――――――――

막는 것이 아니라, 이해하는 것입니다

빠른 기술 변화 앞에서 조직은 도입을 막연히 미루거나, 충분한 검토 없이 서두르기 쉽습니다.
어느 쪽이든 기술의 가능성과 위험을 제대로 판단하기 어렵습니다.

『더 커밍 웨이브』는 이 '이해'를 돕는 책입니다.
저자는 AI와 합성생물학을 중심으로 한 기술 변화가 의료와 에너지, 교육 등 여러 분야를 바꿀 것이라고 봅니다.
책의 핵심 질문은 분명합니다. 강력한 기술의 혜택을 누리면서도, 이를 통제할 능력을 유지할 수 있는가입니다.

―――――――――――――――――――

Ⅰ. 호모 테크놀로지쿠스 — 기술은 널리 퍼집니다

저자는 인간을 '기술을 만들고 확산시키는 존재'로 봅니다.
유용한 기술은 처음에는 비싸고 다루기 어렵지만, 비용이 낮아지고 사용이 쉬워지면서 널리 보급됩니다.
자동차와 인쇄기, 전기, 컴퓨터가 모두 같은 길을 걸었고, 앞선 기술이 쌓일수록 다음 기술은 더 빠르게 퍼질 수 있습니다.

▪ 한번 퍼진 기술은 개발자도 통제하기 어렵습니다

기술의 쓰임은 개발자의 의도를 넘어섭니다.
에디슨은 축음기를 음성을 기록하는 장치로 만들었지만, 사람들은 음악을 즐기는 데 썼습니다.
특히 소프트웨어처럼 복제와 배포가 쉬운 기술은 확산 범위와 쓰임새를 제한하기 어렵습니다.

저자는 여기서 '억제의 과제'가 생긴다고 말합니다.
기술의 개발과 사용을 살피고, 위험을 통제하며, 필요할 때 제한하거나 중단할 수 있는 능력을 확보하는 일입니다.

―――――――――――――――――――

Ⅱ. 새로운 물결 — AI는 어디까지 왔나

이 변화의 핵심 기술 중 하나는 인공지능입니다.
딥마인드의 초기 실험에서 AI는 벽돌 깨기 게임을 반복하며 사람이 가르치지 않은 전략을 스스로 찾아냈고, 2016년에는 알파고가 이세돌에게 승리했습니다.
이후 AI는 데이터와 연산 자원, 모델의 규모를 키우며 글과 이미지, 음성을 만들고 사람과 대화하는 수준에 이르렀습니다.

저자는 먼 미래의 '초지능'뿐 아니라, 목표를 받아 여러 작업을 스스로 수행하는 실용적인 AI에 주목합니다.
그가 보기에 지금 살펴야 할 것은 AI가 실제로 무엇을 할 수 있으며, 어느 범위까지 맡길 수 있는가입니다.

▪ AI는 생명과학, 로봇·에너지 기술과도 맞물립니다

책은 AI와 함께 합성생물학, 곧 유전자와 생물학적 기능을 설계하고 바꾸는 기술을 변화의 핵심 축으로 다룹니다.
알파폴드처럼 AI가 생명과학과 결합하면 신약과 질병 연구의 가능성이 크게 넓어지지만, 같은 기술이 위험한 용도에도 쓰일 수 있습니다.

저자는 로봇과 양자컴퓨팅, 차세대 에너지 기술도 함께 살펴봅니다.
한 분야의 성과가 다른 분야의 발전을 앞당기기에, AI만 따로 떼어 보지 말고 다른 기술과 결합할 때 생기는 변화를 함께 보라고 말합니다.

▪ 이 변화에는 네 가지 특징이 있습니다

• 비대칭: 적은 자원으로도 큰 영향을 미칠 수 있습니다.

• 초진화: 기술이 빠르게 개선되고, 그 성과가 다음 발전을 앞당깁니다.

• 만능성: 하나의 기술이 다양한 분야와 목적에 쓰입니다.

• 자율성: 사람의 개입 없이 판단하고 실행하는 범위가 넓어집니다.

이 특징들이 결합하면 유익한 활용과 악용을 나누기 어렵고, 위험을 예측하고 관리하기도 어려워집니다.
동시에 개인과 작은 조직도 예전에는 큰 자본과 인력이 있어야 가능했던 일을 해낼 수 있게 됩니다. 같은 특징이 위험이자 기회인 셈입니다.

▪ 이 변화는 멈추기 어렵습니다

저자는 기술 확산을 이어 가게 하는 힘으로 여러 주체의 동기를 꼽습니다.
국가는 경제와 안보의 우위를 위해 경쟁하고, 연구자는 성과를 공개하며 지식을 퍼뜨리고, 기업과 투자자는 새로운 시장과 수익을 기대합니다.
여기에 질병과 기후변화 같은 과제를 풀려는 노력과 개인의 성취 욕구까지 더해집니다.

이 동기들이 맞물리기에, 위험을 인식하는 것만으로는 개발과 보급의 속도를 늦추기 어렵습니다.

―――――――――――――――――――

Ⅲ. 변화가 흔드는 것 — 힘은 두 방향으로 동시에 움직입니다

저자는 새로운 기술이 사회의 기존 취약성을 키울 수 있다고 봅니다. 사이버 공격과 허위 정보처럼 적은 자원으로 큰 피해를 일으키는 일이 늘어나기 때문입니다. 권력과 영향력도 두 방향으로 움직입니다.

• 집중: 데이터와 자본, 연산 자원을 확보한 거대 기업과 일부 국가의 영향력이 커집니다.

• 분산: 개인과 작은 집단도 강력한 기술을 활용해, 예전에는 큰 조직만 할 수 있던 일을 해냅니다.

조직 안에서도 AI를 어떻게 도입하느냐에 따라 의사결정 권한이 위로 모일 수도, 현장으로 나뉠 수도 있습니다.

▪ 쉬운 답은 어디에도 없습니다

저자는 기술을 다루는 세 가지 선택에 각각 위험이 따른다고 봅니다.

• 제한 없이 허용하면: 악용과 통제되지 않은 피해의 가능성이 커집니다.

• 지나치게 통제하면: 안전을 명분으로 감시와 권력 집중이 강화될 수 있습니다.

• 발전을 멈추면: 질병과 기후변화, 고령화 등에 대응할 수단을 얻기 어려워집니다.

그래서 저자는 기술의 혜택을 얻으면서 위험을 줄이고, 그 과정에서 자유와 권리를 지키는 '좁은 길'을 찾자고 제안합니다.

―――――――――――――――――――

Ⅳ. 변화를 다루는 법 — 막을 수 없다면, 제대로 만들어야 합니다

저자는 기술의 확산을 막기 어렵더라도 통제를 포기해서는 안 된다고 말합니다.
안전벨트와 차량 안전 기준, 교통법규와 운전 교육이 각기 다른 위험을 줄이듯, 새로운 기술에도 여러 겹의 관리 장치가 필요하다는 것입니다.
규제도 그 가운데 하나지만, 나라마다 규칙이 다르고 제도가 기술 발전을 따라가지 못할 수 있어 규제만으로는 부족합니다.

그래서 저자는 기업과 정부, 시민이 기술의 혜택과 위험을 함께 논의하고 각자의 책임을 정하는 '새로운 약속'을 제안합니다.

▪ 안전은 여러 겹으로 만들어집니다

저자가 제시한 억제 방안은 안쪽에서 바깥으로 넓어지는 열 가지 과제로 정리됩니다.
① 기술 안전 ② 감사 ③ 공급 길목 관리 ④ 만든 사람의 책임 ⑤ 기업의 목적 ⑥ 정부의 개혁 ⑦ 국제 협력 ⑧ 안전 문화 ⑨ 시민 참여 ⑩ 균형 잡기

가장 안쪽은 기술 자체의 안전, 곧 시스템이 기준대로 작동하는지 확인하고 필요할 때 사람이 멈출 수 있게 하는 일입니다. 바깥으로 갈수록 외부 감사와 공급망 관리, 기업과 정부의 책임, 국제 협력과 시민 참여로 넓어집니다.
어느 한 장치만으로는 부족하며, 여러 겹이 서로의 한계를 보완할 때 위험을 효과적으로 관리할 수 있습니다.

―――――――――――――――――――

AI 시대, 우리에게 던지는 세 가지 물음

책의 논의를 교육 사업에 비추어 보면, 우리는 다음 세 가지를 점검할 수 있습니다.

1. 변화의 '속도'에 맞춰 판단하고 있는가
AI가 달라지는 만큼 판단과 도입 계획도 다시 검토하고, 작은 범위에서 시험해 효과를 확인한 뒤 다음 결정을 내려야 합니다.

2. AI에 무엇을 맡기고, 사람은 무엇을 책임질 것인가
콘텐츠 기획·채점·상담에서 AI에 맡길 일과 사람이 판단하고 책임질 일을, 학습자와의 관계와 신뢰까지 고려해 구분해야 합니다.

3. 도입에 따른 '의도치 않은 결과'에도 대비했는가
오용, 오류와 편향, 개인정보 침해 가능성을 미리 검토하고, 사용 기준과 대응 절차를 함께 마련해야 합니다.

―――――――――――――――――――

이 책이 남긴 한 문장

막을 수 없는 변화라면, 먼저 이해하는 쪽이 더 멀리 나아갑니다.
그러므로 우리가 던지는 물음은 분명합니다.

"우리는 이 변화를 얼마나 이해하고 있는가."

―――――――――――――――――――

다음 호 예고
Vol.04 [공존] 『듀얼 브레인』 · 11월 2일(월)

『더 커밍 웨이브』가 기술 변화의 방향과 영향을 살펴봤다면, 다음 호는 이선 몰릭의 『듀얼 브레인』을 통해 사람과 AI가 어떻게 함께 일할 것인가를 다룹니다.

※ 본 콘텐츠는 아래 도서의 핵심 개념을 한솔교육 구성원의 학습 목적으로 정리·해석한 자료이며, 본문 인용 및 상세 내용은 원서를 참고하시기 바랍니다.

• 도서명: 『더 커밍 웨이브』
• 원 제: The Coming Wave (2023)
• 저 자: 무스타파 술레이만 │ 딥마인드·인플렉션 AI 공동 창업자
• 번 역: 이정미 │ 정 리: 마이클 바스카
• 출판사: 한스미디어 (2024)