레플리
글 수 497

인간은 결코 AI를 통제할 수 없다?

조회 수 158 추천 수 0 2021.01.21 15:06:51


 

https://www.sciencetimes.co.kr/news/%EC%9D%B8%EA%B0%84%EC%9D%80-%EA%B2%B0%EC%BD%94-ai%EB%A5%BC-%ED%86%B5%EC%A0%9C%ED%95%A0-%EC%88%98-%EC%97%86%EB%8B%A4

 

 

 

"과학자들이 생각해온 초지능 AI의 통제 방법은 두 가지다. 첫 번째는 인터넷과 다른 모든 기술 장치로부터 차단하여 AI를 외부 세계와 아예 접촉하지 못하게 하는 것이다. 하지만 이 방법은 AI의 능력을 제한해 훨씬 덜 강력한 초지능 AI를 탄생시킬 뿐이다.

 

인류에게 가장 이익이 되는 초지능 AI를 탄생시킬 수 있는 다른 하나의 통제 방법은 인간에게 결코 해를 가할 수 없는 윤리 원칙을 프로그래밍하는 것이다. 하지만 막스플랑크연구소의 과학자들은 AI를 통제하기 위한 프로그램 역시 한계를 지니고 있다고 밝혔다."

 

 

 

초지능은 인간의 지능을 훨씬 뛰어넘는 인공지능을 말합니다. 일단 인간 수준의 AI가 만들어진다면 초지능까지는 금방 도달합니다. 자신을 스스로 개선할 수 있고, 그 속도가 진화의 굴레를 벗어나 매우 빠르기 때문입니다.

 

만약 초지능이 탄생한다면 사람이 통제하기는 거의 불가능합니다. MIT 교수인 맥스 테그마크가 '라이프3.0'이란 책에서 자세히 설명하기도 했습니다. 인터넷을 차단하든 셧다운 코드를 심든, 어딘가는 취약점이 있기 마련입니다. 한번 우리의 손을 빠져나가면 다시는 돌이킬 수 없습니다.

 

그래서 책에서는 새로운 대안을 제시합니다. 인간에게 우호적인 초지능을 개발하는 것이 유일한 방법이라 말합니다. 하지만 우리의 운명을 다른 존재의 결정에 맡긴다는게 꺼림직합니다. 역사적으로 보면 강자가 약자를 위하는 경우가 거의 없으니까요. 아직 먼 미래의 일이지만 한번쯤 고민해볼 필요가 있을 듯 합니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
NYT, OpenAI에 뉴스 저작권 소송 file 깊은바다 2024-01-02 148
생성AI 국가별 관심도 순위 file [1] 깊은바다 2023-12-14 156
스캐터랩 F 같은 이루다, T 같은 챗GPT와 다른 근본적인 이유는 깊은바다 2023-11-20 139
스택 오버플로, ChatGPT 때문에 전체 직원의 28% 감원 file [1] 깊은바다 2023-10-17 192
메타, 자사의 SNS에 AI 챗봇 도입 예정 깊은바다 2023-08-02 128
구글 어시스턴트, 생성 AI 기반으로 바뀐다 깊은바다 2023-08-01 161
AI 가정교사 온다, 美사교육기업 초토화 깊은바다 2023-05-10 171
오픈AI, 130조 투자 유치하겠다... 생성AI 돈 싸움 시작되나 깊은바다 2023-05-07 204
마이크로소프트 빙 일일 사용자 1억명 돌파 깊은바다 2023-03-16 143
챗GPT 자소서, 삼성은 신경 껐다 깊은바다 2023-03-05 294
스타트업도 챗GPT 열풍…발빠른 도입 이어져 깊은바다 2023-02-23 193
로블록스, 게임제작에 생성AI 도입 예정 깊은바다 2023-02-19 140
빌 게이츠 '챗GPT 같은 AI, PC·인터넷 만큼 영향줄 것' 깊은바다 2023-02-05 202
버즈피드, 챗GPT로 맞춤형 콘텐츠·퀴즈 만든다 깊은바다 2023-01-27 154
카카오브레인 김일두 대표 'AI, 결국 모두의 비서 될 것' 깊은바다 2023-01-25 204