거기에 인공 지능에 대한 실리콘 밸리에서 진행되는 큰 논쟁 그리고 안타깝게도 위험이 상당히 높습니다. 우연히 슈퍼 스마트 인공 지능을 구축 할 수 있을까요? 우리를 켜고 우리 모두를 죽이거나 노예로 만들까요?
포르샤 윌리엄스 생년월일
이것은 여름 재난 영화의 시나리오처럼 들릴지 모르지만 Elon Musk에서 늦은까지 꽤 큰 이름을 걱정했습니다. 스티븐 호킹 .
'자기 개선 인공 지능을 만든다고 가정 해 봅시다. 딸기 따기 ' 머스크는 말했다 ``딸을 따는 것이 점점 더 좋아지고 점점 더 잘 뽑아 가고 자기 개선이되기 때문에 정말하고 싶은 건 딸기를 따는 것 뿐이다. 그럼 전 세계가 딸기 밭이 될 것입니다. 딸기 필드 영원히.' 이 딸기 파 칼립스를 가로막는 인간은 인공 지능에 소모적 인 자극제가 될 것입니다.
그러나 분명히 인간은 우연히 인공 지능을 설계하는 것만 큼 어리석지 않을 것입니다. 모든 문명을 하나의 거대한 베리 농장으로 바꾸려고했을까요? 아닐 수도 있지만 자넬 셰인 , 기계 학습 알고리즘의 일종 인 신경망을 훈련하는 연구원은 최근 그녀의 블로그, A.I. 기묘함 , 그것은 전적으로 그들이 실수로 그것을 할 수 있습니다.
사실 인간이 한 가지 작업만을 위해 로봇을 만들고 있다고 생각하고 로봇이 의도하지 않은 방식으로 시스템을 게임하고 있다는 사실을 발견 한 것은 처음과는 거리가 멀었습니다. 이 매혹적인 게시물은 학술 문헌을 파고 들어 로봇이 야생으로 변한 몇 가지 예를 공유합니다. 그들은 재미 있고 영리하며 함께 모아서 약간 소름 끼치는 것 이상입니다.
1. 넘어 질 수있을 때 다리가 필요한 사람은 누구입니까?
'시뮬레이션 로봇은 최대한 빨리 이동하도록 진화해야했습니다. 그러나 다리를 진화시키는 것이 아니라 단순히 높은 탑으로 조립 한 다음 넘어졌습니다. 이 로봇 중 일부는 떨어지는 동작을 공중제비로 바꾸어 거리를 추가하는 방법을 배웠습니다. '라고 Shane은 말합니다.
2. 할 수있는 로봇.
'다른 시뮬레이션 로봇 세트는 점프 할 수있는 형태로 진화해야했습니다. 그러나 프로그래머는 원래 점프 높이를 가장 높은 블록의 높이로 정의 했으므로 다시 한 번 로봇이 매우 키가 큰 것으로 진화했습니다. '라고 Shane은 설명합니다. 프로그래머는 점프 높이를 원래 '가장 낮은'블록 높이로 정의하여이 문제를 해결하려고했습니다. 이에 대응하여 로봇은 일종의 로봇 캔 캔처럼 공중으로 높이 차게 될 수있는 길고가는 다리를 개발했습니다. '
3. 테스트를 숨기면 실패 할 수 없습니다.
'숫자 목록을 정렬하는 알고리즘이있었습니다. 대신 목록을 삭제하는 방법을 배웠으므로 더 이상 기술적으로 정렬되지 않은 상태가 아닙니다. '라고 Shane은 말합니다.
4. 수학 오류가 제트 연료를 능가합니다.
'한 시뮬레이션에서 로봇은 힘을 계산하는 수학에서 작은 반올림 오류가 동작으로 약간의 추가 에너지를 얻게된다는 것을 배웠습니다. 그들은 빠르게 경련하는 법을 배웠고, 활용할 수있는 많은 자유 에너지를 생성했습니다. '라고 Shane은 말합니다. 이봐, 그건 속임수 야!
5. 무적 (파괴적인 경우) 틱택 토 전략.
일단 '프로그래머 그룹이 무한히 큰 보드에서 원격으로 틱택 토를 할 수있는 알고리즘을 만들었습니다.'라고 Shane은 말합니다. '한 프로그래머는 알고리즘의 전략을 설계하는 대신 자체 접근 방식을 발전 시키도록합니다. 놀랍게도 알고리즘이 갑자기 모든 게임에서 승리하기 시작했습니다. 알고리즘의 전략은 움직임을 아주 멀리 배치하는 것이 었습니다. 따라서 상대방의 컴퓨터가 크게 확장 된 새로운 보드를 시뮬레이션하려고 할 때 거대한 게임 보드가 메모리 부족 및 충돌을 유발하여 경기.'
6. 유용한 게임 결함이 드러나지 않습니다.
'컴퓨터 게임 플레이 알고리즘은 인간이 일반적으로 속도 달리기를 위해 이용하는 방법을 배우는 매트릭스 결함을 발견하는 데 정말 뛰어납니다. 이전 Atari 게임 Q * bert를 실행하는 알고리즘은 이전에 알려지지 않은 버그를 발견했습니다. 여기서 한 레벨 끝에서 매우 특정한 일련의 동작을 수행 할 수 있고 다음 레벨로 이동하는 대신 모든 플랫폼이 빠르게 깜박이기 시작합니다. 플레이어는 엄청난 수의 포인트를 축적하기 시작할 것입니다. '라고 Shane은 말합니다.
7. 죄송합니다, 조종사 님.
이 예는 소름 끼치는 척도에서 매우 높습니다. '항공 모함에 착륙하는 비행기에 최소 힘을 적용하는 방법을 알아 내야하는 알고리즘이있었습니다. 대신 '거대한'힘을 가하면 프로그램의 메모리가 넘쳐나고 대신 매우 '작은'힘으로 등록된다는 것을 발견했습니다. 조종사는 죽겠지 만 만점. '
그래서 우리 모두 운명입니까?
이 모든 것을 종합하면 인간은 로봇이 우리가 설정 한 문제를 어떻게 해결할지, 심지어는 문제를 어떻게 정의 할지를 추측하는 데 매우 형편 없다는 것을 암시합니다. 그래서 Shane은 우연히 살인적인 인공 지능을 구축하는 것에 대해 걱정하고 있습니다. 머스크처럼 대 군주? 사실은 아니지만, 인간 프로그래머가 자신이 만들고있는 로봇을 잘 다루고 있다고 확신하기 때문은 아닙니다. 대신 그녀는 우리를 구하기 위해 로봇 게으름에 돈을 쓰고 있습니다.
'프로그래머로서 우리는 알고리즘이 지름길을 이용하는 것이 아니라 우리가 풀어야 할 문제를 해결하는 데 매우주의해야합니다. 주어진 문제를 해결하기위한 또 다른 더 쉬운 경로가 있다면 머신 러닝이 그것을 찾을 가능성이 높습니다. '라고 그녀는 말합니다. '다행히 우리에게'모든 인간 죽이기 '는 정말 어렵습니다. '믿을 수 없을 정도로 맛있는 케이크를 굽는 것'도 문제를 해결하고 '모든 사람을 죽이는 것'보다 쉽다면 머신 러닝은 케이크와 함께 갈 것입니다. '
