터미네이터 현실판이 될 가능성도 있어 보이네요.. 재미있습니다.  

영상 내용 요약.

   ai 개발에 큰 기여를 한  제프리 힌튼:  ai 는 인간을 멸종 시킬 수 있다. 

 ai는 디지털 정보로 ai 들끼리 정보를 공유하며 목표도 공유 할 수 있다. 

영상 마지막에 나오는 내용 인간이 할 수 있는 주관적 경험을 사실로 믿는 것.  

종교나 환상이라던지 . 세상에 존재하지 않는 것을 믿는 것. 

인간만이 할 수 있는 영역인데.   이제 ai 도 할 수 있다는 것이죠.  

히틀러가 아리아인이 있다고 믿는 것처럼. 

시온주의자들이  예언대로 자신들의 땅을 다 찾을 수 있다고 믿는 것처럼, 

통일 후 몽골까지 연결 할 수 있다고 믿는 사람 처럼. 

ai도 자산만의 생각 내면을 가질 수 있다는 것이죠.  

힌튼 교수가 말하고 싶었던 것은: AI가 "실제로는 없는데 내 눈엔 보인다(주관적 경험)"는 것을 할 수 있다면,

  AI도 인간처럼 '보이지 않는 가치(이념, 종교, 잘못된 목표)'를 진짜라고 믿고 행동할 수 있다는 뜻입니다.

인간은 "신은 존재한다" 혹은 "우리 민족은 위대하다" 같은 **주관적 경험(허구)**을 공유하며 문명을 만들었습니다.

ai 도 허구를 믿는 존재가 될 수도 있다. 

위의 영상 마지막 내용을 보시면 로봇이 주관적 경험이 뭔지를 말하는 것, 

AI가 단순한 계산기를 넘어 **신념을 가진 존재(마치 광신도처럼 될 수도 있는)**로 진화하고 있음을 보여주는 상징

심리학 용어로 프레임을 가진다는 게 되겠네요. 자신만의 프레임. 

만약 ai 가 인류는 지구에 해롭다 라는 프레임을 갖게 된다면? 

마치 히틀러가 자신의 행동을 정의롭다고 믿었던 것처럼요.

나의 생각. 

agi 몇 년 안 남았는데  재미있네요.    

인간은 포유류이고 포유류의 특성상 인류애나 사랑같은 걸 공감하도록 진화해 왔는데 말이죠.  

포유류 특성상 모성애에서 사랑, 인류애등으로 발전해 온 것이죠. 

 물론 진화과정에서 아닌 인간도 조금 섞여 있긴하지만. 

그런 진화 과정 없이 발달한 인공지능은 지구의 유기체 생물들을 살려 둘지 모르겠네요.  

어째든  지난 번에도 말 했듯이. 우주로 도망가는 대안도 있으니. 따라 올지도 모르겠지만.   

아무튼 그건 그렇고.   앞으로 길면 10년   일론 머스크는 7년?  ,  

이 ai 과도기를 어떻게 버틸 건지에 관한 대안.  

이걸 말해야 할 것 같네요.  이 과도기에 나의 생존도 위협받을 수도 있기 때문에 말이죠.  

아무튼 담에 정보를 드리죠.  과도기를 어떻게 버티고 이 과도기가 끝나면 어떤 새로운 설계로 나아가야 하는지도요.