How to govern AI — even if it's hard to predict

ChatGPT의 등장

AI, 예측은 어려워도 통제는 가능하다?

– 헬렌 토너의 TED 강연

“AI는 예측 불가능하지만, 그걸 이유로 손 놓고 있을 순 없다.”
ChatGPT의 등장과 확산으로 AI 개발자 조차 AI가 동작하는 방식이 블랙박스라고(이해하기 어렵다고) 말하고 있습니다. 
AI 정책 전문가 헬렌 토너(Helen Toner)는 TED 무대에서 이 강력한 메시지를 던집니다. 오늘날 AI 기술은 인간의 언어를 흉내 내고, 그림을 그리고, 의학 연구까지 지원합니다. 그러나 그 발전 속도는 너무나 빠르고, 그 방향은 불확실합니다. 이처럼 예측하기 어려운 기술을, 어떻게 제대로 통제할 수 있을까요?

---

예측은 어렵다. 하지만 방향은 보인다

헬렌은 말합니다. “우리는 AI가 어떤 방식으로 발전할지 정확히 알 수는 없다.”
하지만 이것이 정책을 만들지 말아야 한다는 뜻은 아닙니다.
기술의 예측 가능성만이 정책 설계의 전제는 아니며, 윤리적 기준, 공공의 안전, 인간 중심의 방향성은 충분히 설정할 수 있다는 것이 그녀의 주장입니다.

---

기술보다 먼저 가야 할 것: 가이드라인과 규범

헬렌은 과거의 예를 듭니다.
비행기, 자동차, 핵에너지 등 초기에는 모두 불확실하고 위험한 기술이었지만, 우리는 규제와 시스템을 통해 공공성과 안전을 확보해 왔습니다. AI도 마찬가지입니다.

“우리가 필요한 것은 모든 답이 아니라, 올바른 방향을 향한 시스템과 도구들이다.”

---

세 가지 핵심 원칙

헬렌은 AI 거버넌스를 위한 세 가지 실천적 원칙을 제안합니다:

1. 투명성(Transparency):
   AI 모델이 무엇을 기준으로 판단하고 있는지를 설명할 수 있어야 합니다.
2. 책임성(Accountability):
   AI가 잘못된 결정을 했을 때, 그 책임 주체가 명확해야 합니다.
3. 참여성(Inclusiveness):
   규범을 정할 때 기술자만이 아니라, 시민, 정부, 다양한 사회 주체들이 함께해야 합니다.

---

“AI는 너무 중요하다. 기술자에게만 맡겨둘 수 없다.”

헬렌의 메시지는 단순하지만 강력합니다.
AI는 우리 모두의 삶을 바꿀 수 있는 기술이기 때문에, 그 방향성과 통제는 사회 전체가 함께 논의해야 할 문제라는 것입니다. 기술자들만의 폐쇄적인 영역이 되어서는 안 됩니다.

---

정책은 늦어도, 통제는 미룰 수 없다

AI 기술이 하루가 다르게 발전하고 있는 지금, 우리는 예측할 수 없다는 이유로 아무것도 하지 않는 것이 가장 위험하다는 사실을 잊지 말아야 합니다.
헬렌 토너는 그 점에서, 완벽하지 않아도 ‘지금 당장’ 통제 체계를 고민해야 할 이유를 분명하게 보여주었습니다.

---

미래의 AI는 인간을 위한 기술이어야 합니다.
그 시작은 예측이 아니라, 통제에서부터입니다.

 

https://www.ted.com/talks/helen_toner_how_to_govern_ai_even_if_it_s_hard_to_predict

How to govern AI — even if it's hard to predict