AI에게도 윤리가 필요하다?

• 쿨리 : 쌤, 요즘 제 친구들 중에는 AI 도움을 받아 숙제를 하는 친구들이 정말 많아요. 저는 최근에 AI에게 부탁해 제 사진을 멋지게 꾸며 봤는데 정말 신기하더라고요. 그런데 이렇게 우리가 할 일을 모두 AI가 대신 해주다보면 언젠간 우리가 할 일이 하나도 없고, AI가 우리보다 더 똑똑해질 거 같아요. 그러다 AI가 인간을 지배하는 세상이 오면 어쩌죠?

• 뉴쌤 : 요즘 들어 AI 기술이 너무 빠르게 발전해서 쿨리처럼 많은 사람들이 두려움을 느끼고 있어. 해외에선 유명한 기업인들과 학자들이 AI 개발을 잠시 멈추든지 최소한 개발 속도라도 늦추자는 캠페인을 벌였을 정도야. 그러면서 AI 윤리에 대한 관심도 높아지고 있어.

• 쿨리 : AI 윤리요? 인공지능에게 ‘거짓말을 하면 안 돼’라든지 ‘다른 사람을 이유 없이 비난하고 공격하는 건 나쁜 행동이다’ 이런 걸 알려주는 거예요?

• 뉴쌤 : 인공지능은 사람이 아니야. 사람의 뇌랑 비슷하게 작동하며 생각하고 판단하고 실행하게끔 인간 과학자들이 개발한 로봇이지. 따라서 인공지능 윤리는 인공지능을 개발하는 사람들이 지켜야 할 원칙이라고 이해하면 돼.

• 쿨리 : 구체적으로 어떤 원칙들이 있을까요?

• 뉴쌤 : 예를들면 공평하지도, 공정하지도 않은 정보, 즉 편견을 가르치지 않는 거야. 우리 인간이 편견을 가지고 있다면 우리 뇌의 작동 방식을 그대로 따라하는 인공지능도 편견을 갖게 되겠지? 많은 사람들이 백인보다는 흑인이 범죄를 저지를 가능성이 높다는 편견을 갖고 있어. 또 여성이 남성보다 적은 임금을 받고 일하는 게 당연하다는 생각을 가진 사람도 있고. 이런 생각을 인공지능이 배운다면 인공지능 역시 이런 편견을 가득 안고 판단하게 될 거야.

• 쿨리 : 그렇군요. 그런데 저는 가끔 AI가 알려주는 정보는 어디에서 온 건지 궁금하기도 해요. 설마 제가 쓴 글이나 사진 같은 걸 몰래 보고 가져다 쓰는 건 아니겠죠?

• 뉴쌤 : 쿨리와 똑같은 걱정을 하는 사람들도 많아. 그래서 AI가 우리의 개인정보를 마음대로 들여다보고 쓰지 않도록 해야 해. 어디까지 AI가 활용하면 안 되는 개인정보인지에 대해선 여전히 논쟁이 있어. 가령 쿨리가 온라인 쇼핑몰에 올린 리뷰를 AI가 허락도 받지 않고 활용한다면 이건 개인정보를 도둑질 한 걸까, 아닐까? 한번 고민해볼만한 문제지?

• 쿨리 : 그런데 그걸 썼는지 안 썼는지는 알 수 있나요?

• 뉴쌤 : 그것도 문제야. 알 수가 없거든. 그래서 AI가 글을 쓰거나 그림을 그렸을 때 어떤 정보를 참고했는지 낱낱이 밝혀야 한다고 주장하는 사람들도 많아졌어. 그래야 누군가의 글, 사진, 음악 같은 저작물을 마음대로 보고 베낀 건 아닌지, 또 공정하고 적절하게 판단한 건지 인간이 검증해볼 수 있을 테니까.

• 쿨리 : 인간이 AI 윤리를 정하면 로봇이 잘 따르는 거겠죠? AI가 인간의 통제를 벗어날까봐 걱정돼요.

• 뉴쌤 : 대부분의 사람들이 그런 두려움을 가지고 있지. 하지만 AI에게 어떤 일까지 시킬지 정하는 건 우리 인간의 몫이야. AI는 인간을 돕는 일만 해야지 그걸 완전히 대체하도록 내버려 둬서는 안 된다는 원칙을 분명히 하고 이걸 모든 사람이 지키게 한다면 우리가 두려워하는 일은 일어나지 않을 거야.

뉴스쿨TV X 꼬꼬단

✅윤리

✅편견

✅통제

QUIZ

뉴스쿨TV에서 AI 윤리에 대한 뉴쌤의 생각을 정리한 글이야. 다음 괄호 안에 들어갈 낱말을 초성에 맞게 완성해 보자.

뉴쌤: 인공지능 윤리는 인공지능을 개발하는 사람들이 지켜야 할 규칙이야. 인공지능 개발자는 로봇에게 공정하지 않은 생각, (ㅍㄱ)을 가르쳐서는 안돼. 또 인공지능이 우리의 (ㄱㅇㅈㅂ)를 마음대로 들여다보지 않도록 주의해야 하고. 인공지능은 인간을 돕는 일만 해야지, 우리의 일을 완전히 대체하도록 내버려둬서는 안 된다고 생각해.

정답 확인하러 가기(일요일 공개)