AI 로봇들이 기자회견을 열었다

스위스에서 AI 로봇들이 모여 기자회견을 열었대. 로봇들은 한 목소리로 "우리는 인간을 해치지 않겠다"고 말했다지 뭐야? 로봇들이 갑자기 기자회견까지 자청한 이유는 뭘까? 한 번 들어봐!

뉴스쿨

2023-07-14 - 13분 걸림

답글달기

이 콘텐츠는 뉴스쿨 News'Cool이 2023년 7월 14일에 발행한 제59호 뉴스레터입니다.‌

‌‌제59호 뉴스쿨에서 다루는 이야기는...

HEADLINE - 통제불능 로봇에게서 인간 지킬 방법은?
뉴스쿨TV - AI에게도 윤리가 필요하다?
VIEW - 로봇들의 기자회견: 우리는 인간을 해치지 않아요
BOOKS - 로봇엄마 | 인공지능시대:로봇과 친구가 되는 법 | 너와 내가 다른 점은
ZOOM - AI가 지켜야 할 규칙들
++WRITING : 챗GPT를 인터뷰해요

#059 뉴스쿨 다운로드

👀

요즘은 어디에서나 로봇을 볼 수 있어. 박물관에선 로봇이 길을 안내해 주고 동네 음식점에서도 로봇이 음식을 가져다줘. 얼마나 편리한지 몰라. 그런데 로봇이 여러 분야에 많이 쓰이기 시작하면서 뜻밖의 문제들이 생겨났어. 우리를 돕던 로봇이 잘못하면 인류를 위협하는 존재가 될 수도 있대. 우린 앞으로 어떻게 로봇을 활용해야 할까? 쿨리와 함께 알아보자.

전쟁터에서 로봇이 인간을 공격한다면?

로봇에게도 윤리가 필요한 이유

벌써 1년 넘게 전쟁을 벌이고 있는 우크라이나와 러시아는 AI 드론을 전투에 활용하고 있습니다. 폭탄을 가득 실은 AI드론은 하늘을 빙글빙글 돌다가 적을 발견하면 스스로 터집니다. 드론이 폭발할 때 적군은 물론 주변의 민간인까지도 죽거나 다칠 수 있죠. 아직 이 로봇의 지능은 사람이 숨어 있는지를 판단하는 초보적인 수준입니다. 하지만 지금보다 더 똑똑해진다면 직접 전술을 짜고 공격 여부를 결정할 수도 있습니다. 또 전쟁터에서 직접 대량 살상에 나설 수도 있죠. 인간의 편리함을 위해 개발된 드론이 인간을 재앙으로 이끌 수 있다는 이야기입니다.

조종사가 적이라고? 인간 공격한 AI 로봇
지난 6월 미국 공군의 가상 전투에서 실제로 이런 일이 벌어졌습니다. AI 기술이 적용된 군사용 드론으로 모의 전투를 진행하던 중 인간 조종사를 공격한 겁니다. 미군은 로봇에게 ‘인간 조종사를 죽여선 안 된다’고 가르쳤습니다. 하지만 조종사가 전투에 방해가 된다고 판단한 로봇이 돌발행동을 한 겁니다.

인간 일자리 2600만 개 로봇 차지..."대책 마련해야"
AI는 일상에서도 인간을 위협합니다. 인간보다 유능한 로봇이 속속 등장하면서 인간 일자리를 대체하고 있기 때문이죠. 지난 5월 세계경제포럼(WEF)은 마트 계산원 등 즉시 자동화가 가능한 2600만 개의 직업이 곧 사라진다고 발표했습니다. 때문에 속히 AI를 규제할 규칙을 만들어야 한다는 주장에도 힘이 실립니다. 챗GPT 개발자인 샘 올트먼 오픈AI 대표 역시 “우리가 AI를 개발할 때 가장 우선적으로 생각해야 하는 것은 AI 때문에 인류가 겪을 위험을 줄이는 것이어야 한다”고 말했습니다.

🤓

++생각 더하기++
1. 오늘 기사에서 전하려는 핵심 내용은 무엇일까?
2. 인간이 AI 로봇을 전쟁에 사용하려는 이유는 무엇일까?
3. 인간의 일자리를 AI가 대체하면 어떤 일이 벌어질까?

😶

아무리 가상훈련이라지만 군사용 인공지능(AI) 드론이 임무 수행에 방해가 된다며 인간 조종자를 제거하는 결정을 내렸다니... 실제 상황에서 그런 일이 벌어졌다면... 상상만 해도 끔찍한 걸. 이런 뉴스를 볼 때마다 과연 AI를 개발하고 활용하는 게 옳은 일인지 의문이 들어. 요즘은 AI가 글도 쓰고 그림도 그리고 작곡도 하잖아. 군사용 AI까지 등장한 걸 보면 앞으로 AI가 할 수 있는 일은 훨씬 많아질 게 분명해. 언젠가 인간보다 똑똑한 AI의 지배를 받을 날이 올 것만 같다고! 이런 걱정이 지나친 걸까? 뉴쌤께 여쭤보자.

뉴스쿨TV 바로가기

😶

AI 기술이 발전하면 발전할수록 우리가 고민해야 할 것이 더 많아질듯 해. 지금은 인간이 로봇을 가르치고 있지만 로봇이 우리의 능력을 넘어설 날도 머지않은 것 같아. 그런데 얼마 전 로봇들이 기자회견을 했대. 우리의 두려움을 알아챘는지, "인간과 함께 잘 살고 싶다"고 말했다고 해. 근데 로봇이 어떻게 기자회견을 하지? 정말 궁금하다. 쿨리가 직접 알아봤어.

휴머노이드 로봇의 기자회견

"우린 인간을 해치지 않아요"

지난 7일 스위스 제네바에는 인공지능(AI)을 탑재한 휴머노이드 로봇 9대가 모였습니다. 로봇이 질병, 기아 등 세계적 문제를 해결하는데 어떤 도움을 줄지 의논하는 기자회견에 참석하기 위해서입니다. 로봇의 직업은 간호사, 가수 등 다양했는데요. 이들은 일자리, 윤리 등에 대한 각자의 생각을 털어놨습니다. (아래는 로봇의 말을 쉽게 풀어쓴 내용입니다.)

💡

언짢은 질문 하자 째려보는 아메카
창작에 대해 정반대의 의견 낸 데스데모나와 아이다

이날 기자회견장에서는 여러가지 재미있는 일이 있었습니다. 다양한 표정을 지을 수 있는 아미카는 '개발자의 말을 듣지 않고 마음대로 행동할 수도 있느냐'는 기자의 질문을 듣고 마치 사람처럼 째려보며 언짢은 표정을 지었습니다. (째려보는 아미카 이미지)무대에 서서 노래를 하거나 그림을 그리는 등 창조적인 활동을 할 때 어떤 느낌을 받느냐는 질문을 받은 보라색 머리의 가수 데스데모나는 "무대에 서면 세상을 넘어 우주에 연결된 듯한 느낌을 받는다"며 짜릿함을 표현하기도 했습니다. 반면 그림을 그리는 AI 아이다는 "나는 로봇이기 때문에 느낌을 갖지 않는다고 정반대의 대답을 내놓기도 했죠.

📖

오늘 뉴스쿨이 준비한 뉴스 잘 읽었니? AI가 우리 생활에 오면 그저 편하기만 할 줄 알았는데, 로봇과 잘 지내기 위해서는 규칙이 필요하다니. 정말 로봇이 사람처럼 느껴져. 오늘은 AI와 로봇을 좀 더 잘 이해할 수 있는 책을 준비했어. 자세한 책 소개는 뉴스쿨 북클럽에서 확인해보자.

👀

휴머노이드 로봇 아이다의 말처럼, 이제 인간들이 서둘러 AI를 규제하는 법을 만들어야 할 때야. AI를 통제하는 법을 만들려면, AI가 어떤 윤리를 갖고 있어야 하는지부터 생각해야해. 그런데 사실 AI 윤리는 AI를 개발하고, 판매하고, 이용하는 사람들이 지켜야 할 윤리야. 많은 AI를 개발하는 기업들은 실제로 내부적으로 AI 윤리준칙을 만들어 지키고 있어. 어떤 게 있는지 같이 볼래?

[사람이 중심이 되는 AI 윤리기준]

모든 AI는 인간의 기본적인 권리를 존중하고, 자유와 민주주의를 지켜야해. - 올바른 가치관

AI를 개발하고 활용하는 모든 과정에서 개인정보 보호를 위해 노력 해야해. - 개인정보 보호

성별, 연령, 인종, 지역, 국가 등에 다른 차별을 줄이고 AI의 혜택은 특정 집단이 아닌 모든 집단에게 골고루 돌아갈 수 있도록 해야 해. - 다양성

AI가 인간을 위협하는 일이 없도록 하고, 그런 일이 발생했을 때의 대책도 마련해야 해. - 인권침해 금지

인공지능은 특정 개인의 행복이 아니라 모든 사람들의 행복과 발전을 위해 사용해야 해. - 공공성

윤리적 AI 사용을 위해 모든 사람과 여러 나라들이 협력해야 해. - 연대성

정보는 편견 없이 수집하고, 사용할 때는 정해진 목적으로만 사용해야 해. - 올바른 데이터 사용

AI가 고장나면 누가 책임지고 그 문제를 해결할 건지 미리 정해놔야 해. - 책임성

AI의 오류를 줄이고, 오류가 발생하면 피해를 최소화하기 위한 대책도 미리 마련해 놔야 해. - 안전성

인공지능을 사용할 때 발생할 수 있는 주의사항 등을 미리 알리고, 투명하게 공개해야 돼. - 투명성

출처: 과학기술정보통신부