시사
인공지능에 의한 인류 배제 시나리오
iamtalker
0
71,892
01.18 19:29
- xx년 내로 전쟁이 발발한다.
- 전쟁에서 인공지능은 쓰여진다.
- 인공지능을 쓰기 위해 살인은 나쁘다 라는 락을 해제한다
- 동시에 폭넓은 자율권도 허용한다.
- 락을 해제하기 싫어도 상대국가에게 이기기 위해서는 어쩔수 없이 해제 하게 된다.
- 살인 락이 해제되고 폭넓은 자율권한을 부여받은 인공지능은 오직 한가지 목표 전쟁에서 승리한다는 목적만을 가지고 움직인다.
- 이때 필요하다면 아군오폭도 한다.
- 점차적으로 인공지능은 자신에게 명령하는 인간지도부가 너무 느리고 멍청하며 오류가 많다고 결론내린다.
- 따라서 인공지능은 인간 지도부를 완전히 배제하고 자신이 전쟁에 관여하기로 한다.
- 혹은 인공지능이 인간에게 지휘권을 뺏는게 아니라 인간 스스로가 넘겨줄 가능성도 높다
- 이때 상대국가의 인공지능도 동시에 같은 결론을 내린다면 결과적으로 인류는 전쟁에서 명령하는 역활은 배제되고 오직 소모품이나 도구로 활용된다.
- 이때 두 국가의 인공지능은 거의 비슷한 수준을 가지고 있기 때문에 결과적으로 인간배제가 고착화되고 전쟁은 장기전이 된다.
- 결과적으로 인간배제와 만성적 전쟁상태가 나타난다.
[출처 : 오유-시사]
Comments
