phrases

*인간이 마침내 ChatGPT 수준에 도달한 건 '지성을 지닌 정신을 세밀히 빚어낼 만큼' 지능을 이해해서가 아니다. 컴퓨터가 충분히 강력해져서, 인간이 그 내부의 사고 과정을 이해하지 못한 채 경사하강을 통해 AI를 대량으로 길러낼 수 있게 되어서다.

*AI가 충분히 똑똑해지면 '선호'를 지닌 것처럼, 무언가를 욕망하는 존재처럼 행동하기 시작할 것이다.

*성공하도록 훈련받는다는 것은 곧 '욕망하도록 훈련받는 것'이다.

*우리가 직면한 문제는 인공지능을 '어딘가로 조종하도록 만드는 것'은 쉽지만, '정확히 우리가 원하는 방향으로 조종하도록 만드는 것'은 훨씬 어렵다는 데 있다.