Alan Jo의식이라는 허상을 구현하려고 하면 안된다
초지능 AI의 목적을 어떻게 우리 목적에 맞춰 정렬할 지 방법을 찾아내는 건 중요하고 어렵다
하위목적 파생 문제를 고려할 때, 우리는 목적정렬문제를 해결이전에 초지능을 풀면 안된다
컴퓨터는 구조와 독립적으로 상용으로 모든 기능을 구현할 수 있는 구조이다
뇌는 기능 자체에 따라 진화하며 연관된 구조이다
구조와 기눙 자체가 병렬로 정보를 단순화하여 의식하는 것이 목표가 되기에 직렬화된 컴퓨터로 구현하기 어렵다
Super Intelligence Books
- Life 3.0
- 특이점이 온다
