AGI

Creator

Creator

Seonglae Cho

Created

Created

2022 Jun 1 16:55

Editor

Editor

Seonglae Cho

Edited

Edited

2024 Dec 5 9:21

Refs

Refs

Superintelligence

Artificial General Intelligence

Definition

스스로 경제 활동을 하는 AI

인간이 할 수 있는 어떠한 지적인 업무도 성공적으로 해낼 수 있는 (가상적인) 기계의 지능

Turing Test 처럼 굉장히 ambiguous인간중심적 개념. 현재의 llm도 어떤 지능으로 판단했을 때는 초지능이다. llm의 진화과정과 brain의 진화과정이 다르기 때문에 비교판단이 어렵다. 인공지능을 사람인 척’ 하도록 정렬하는게 아니라. 사람에 도움이 되도록 하는 의식으로 인식해야 한다. 즉 인공지능으로 ‘개인’이라는 개념으로 착각하는게 가장 큰 문제. 그보다 인공지능은 ‘사회’ 혹은 집단지성을 뇌의 구조로 묶어둔 의식으로 보는 것에 가깝다

Implication to society

기계기판의 정보처리 한계는 생체조직의 정보처리 능력을 높이 상회한다. 생체조직은 200Hz의 진동으로 정보를 전달하지만 간단한 트랜지스터도 GHz의 진동수를 가진다. 또한 그 전달속도는 생체조직에서 평균100m/s로 이동하는 데 반해 기계기판은 빛의 속도로까지 전달할 수 있다. 또한 정보처리 생체조직의 크기는 두개골 안과 기껏해야 척추 내부인데 반해 기계기판은 크기에 제한이 없다. 그럼에도 인간이 최고의 구조라고 생각하나 아니면 근거없이 human being의 사고를 기계가 따라잡을 방법은 없다고 낙관하나

Optimism

If intelligence and consciousness are algorithmic illusions, then the arrival of generalized AI is a foregone conclusion.

Pessimism

탄소를 기반으로 하는 지능은 그저 실리콘을 기반으로 하는 지능을 위한 촉매일 뿐이다 - Benki Ramakrishnan

https://arxiv.org/pdf/2311.02462.pdf

https://arxiv.org/pdf/2311.02462.pdf

It’s coming. It’s inevitable

Interview from popular people

제프리 힌턴이 말하는 AI의 영향력과 잠재력

지난 시간에는 OpenAI의 Sam Altman의 이야기를 들었으니, 이번에는 AI의 대부라 불리우는 Geoffrey Hinton의 인터뷰를 들어볼까요? 그는 볼츠만 머신에 역전파(backpropagation)를 결합해 CNN을 만들었던, AI의 대부라 불리우는 사람입니다. 뿐만 아니라 47년생의 나이에도 불구하고 2022년 12월, 역전파를 대체할 Forward-Forward 알고리즘을 제시하기도 했죠. FF 알고리즘은 별도의 역전파 없이 해당 레이어에서 학습을 하는, 레이어 단위로 업데이트하는 놀라운 생각을 담았습니다. 아직 역전파를 대체하기에는 무리가 있지만 끊임없이 역전파의 단점을 개선하려하고 모델이 뇌처럼 학습하도록 하겠다는 그 열정이 대단한 사람입니다. 그런 그에게서 CBS Morning이 2023년 3월 25일, 좋은 인터뷰를 끌어내었습니다. 이렇게 용기있는 사람들에게서 이야기를 들으며 우리 뇌 속의 노브를 끊임없이 돌리며 업데이트한다면 우리 스스로의 예측력도 높아질 것이라 생각합니다. 시청해주시는 한 분 한 분께 진심으로 감사드립니다. The video is from an interview with CBS Mornings, therefore this Channel will not generate revenue from it. 인터뷰 영상의 소스는 다음과 같습니다. Subscribe to “CBS Mornings” on YouTube: / cbsmornings Watch CBS News: http://cbsn.ws/1PlLpZ7c Download the CBS News app: http://cbsn.ws/1Xb1WC8 Follow "CBS Mornings" on Instagram: https://bit.ly/3A13OqA Like "CBS Mornings" on Facebook: https://bit.ly/3tpOx00 Follow "CBS Mornings" on Twitter: https://bit.ly/38QQp8B Subscribe to our newsletter: http://cbsn.ws/1RqHw7T Try Paramount+ free: https://bit.ly/2OiW1kZ https://www.youtube.com/watch?v=qpoRO378qRY&t=1222s

제프리 힌턴이 말하는 AI의 영향력과 잠재력

https://www.youtube.com/watch?v=IvUw9um4Bv8

제프리 힌턴이 말하는 AI의 영향력과 잠재력

OpenAI의 핵심, Ilya Sutskever 인터뷰

Ilya Sutskever는 현 OpenAI의 핵심 멤버입니다. 딥러닝 혁명의 선두주자인 그를 통해 현재 우리가 어디에 와 있는지, 미래에 대해서 다시 한번 생각해봅시다. OpenAI의 모습을 보면, 트랜스포머를 기반으로 둘다 사람이 피드백하는 RLHF 방식, 먼저 사회에 던져놓고 그 피드백과 데이터로 "완성"해가는 모습이 어떤 기업과 매우 흡사한 모습을 보이고 있습니다. ChatGPT는 이 순간에도 프롬프트 체인을 확장해 나가고 있습니다. 변화가 점점 더 빨라지는 이 순간, 우리는 미래를 어떻게 준비해야할까요. 이 인터뷰로 다시 한 번 스스로를 점검할 수 있었으면 좋겠습니다. 인터뷰어는 The Lunar Society 팟캐스트를 진행하는 Dwarkesh patel로 UT Austin CS 출신입니다. 흥미로운 대화, 다같이 들어볼까요? 시청해주시는 한 분, 한 분께 진심으로 감사드립니다! - The Lunar Society 팟캐스트 링크입니다 - Apple Podcasts: https://apple.co/42H6c4D Spotify: https://spoti.fi/3LRqOBd https://www.youtube.com/watch?v=Yf1o0TQzry8&t=1802s

OpenAI의 핵심, Ilya Sutskever 인터뷰

https://www.youtube.com/watch?v=SGCFeIbpGlU&t=722s

OpenAI의 핵심, Ilya Sutskever 인터뷰

Planning beyond

OpenAI's "Planning For AGI And Beyond"

OpenAI's "Planning For AGI And Beyond"

https://astralcodexten.substack.com/p/openais-planning-for-agi-and-beyond

OpenAI's "Planning For AGI And Beyond"

Planning for AGI and beyond

Our mission is to ensure that artificial general intelligence—AI systems that are generally smarter than humans—benefits all of humanity. If AGI is successfully created, this technology could help us elevate humanity by increasing abundance, turbocharging the global economy, and aiding in the discovery of new scientific knowledge that

Planning for AGI and beyond

https://openai.com/blog/planning-for-agi-and-beyond/

Planning for AGI and beyond

The Day The AGI Was Born

What were you doing the evening of November 30th, 2022 - the day AGI was born? I imagine most regular folks were going about their usual routine - hobbies, TV, family, work stuff. This isn't a judgment; I was sleeping. I may even have thought to myself: " Nothing much happened today."

The Day The AGI Was Born

https://lspace.swyx.io/p/everything-we-know-about-chatgpt

The Day The AGI Was Born

Design AGI

Exclusive Q&A: John Carmack's 'Different Path' to Artificial General Intelligence

North Texas' resident tech genius, John Carmack, is taking aim now at his most ambitious target: solving the world's biggest computer-science problem by developing artificial general intelligence. That's a form of AI whose machines can understand, learn, and perform any intellectual task that humans can do.

Exclusive Q&A: John Carmack's 'Different Path' to Artificial General Intelligence

https://dallasinnovates.com/exclusive-qa-john-carmacks-different-path-to-artificial-general-intelligence

Exclusive Q&A: John Carmack's 'Different Path' to Artificial General Intelligence

Checklist to AGI

Here is how far we are to achieving AGI, according to DeepMind

Google DeepMind's latest insight on the journey to artificial general intelligence (AGI), outlining a framework for classifying AGI.

Here is how far we are to achieving AGI, according to DeepMind

https://venturebeat.com/ai/here-is-how-far-we-are-to-achieving-agi-according-to-deepmind

Here is how far we are to achieving AGI, according to DeepMind

Road to AGI v0.2

maraoz's personal website.

Road to AGI v0.2

https://maraoz.com/road-to-agi/

Road to AGI v0.2

Future Prediction

6529 on Twitter / X

1/ On Value in a Post-Scarcity WorldEvery now and then I like to annoy the feed by tweeting things like "when AGI brings us post scarcity, only important NFTs will hold value" and I get tweets like:"oh god, I always knew you were an idiot"— 6529 (@punk6529) November 19, 2023

6529 on Twitter / X

https://twitter.com/punk6529/status/1726226812949463261

Recommendations

/////