AGI
[Super Intelligence](https://texonom.com/super-intelligence-b057e644731546d9b39cb41939d36712) [Consciousness](https://texonom.com/consciousness-105c514277b54cd5b8da23ae743e824d) 


## Artificial General Intelligence
ambiguous
turing test처럼 굉장히 애매하고 인간중심적 개념. 현재의 llm도 어떤 지능으로 판단했을 때는 초지능이다. llm의 진화과정과 brain의 진화과정이 다르기 때문에 비교판단이 어렵다. 인공지능을 사람인 척’ 하도록 정렬하는게 아니라. 사람에 도움이 되도록 하는 의식으로 인식해야 한다. 즉 인공지능으로 ‘개인’이라는 개념으로 착각하는게 가장 큰 문제. 그보다 인공지능은 ‘사회’ 혹은 집단지성을 뇌의 구조로 묶어둔 의식으로 보는 것에 가깝다
**If intelligence and consciousness are algorithmic illusions, then the arrival of generalized AI is a foregone conclusion.**
인간이 할 수 있는 어떠한 지적인 업무도 성공적으로 해낼 수 있는 (가상적인) 기계의 지능
기계기판의 정보처리 한계는 생체조직의 정보처리 능력을 높이 상회
생체조직은 200Hz의 진동으로 정보를 전달하지만 간단한 트랜지스터도 GHz의 진동수를 가진다. 또한 그 전달속도는 생체조직에서 평균100m/s로 이동하는 데 반해 기계기판은 빛의 속도로까지 전달할 수 있다. 또한 정보처리 생체조직의 크기는 두개골 안과 기껏해야 척추 내부인데 반해 기계기판은 크기에 제한이 없다
그럼에도 인간이 최고의 구조라고 생각하나
아니면 근거없이 human being의 사고를 기계가 따라잡을 방법은 없다고 낙관하나


> 탄소를 기반으로 하는 지능은 그저 실리콘을 기반으로 하는 지능을 위한 촉매일 뿐이다 - Benki Ramakrishnan




### Interview from popular people
> [제프리 힌턴이 말하는 AI의 영향력과 잠재력](https://www.youtube.com/watch?v=IvUw9um4Bv8)

> [OpenAI의 핵심, Ilya Sutskever 인터뷰](https://www.youtube.com/watch?v=SGCFeIbpGlU&t=722s)

### Planning beyond
> [OpenAI's "Planning For AGI And Beyond"](https://astralcodexten.substack.com/p/openais-planning-for-agi-and-beyond)

> [Planning for AGI and beyond](https://openai.com/blog/planning-for-agi-and-beyond/)

> [The Day The AGI Was Born](https://lspace.swyx.io/p/everything-we-know-about-chatgpt)

### Design AGI
> [Human-centred mechanism design with Democratic AI - Nature Human Behaviour](https://www.nature.com/articles/s41562-022-01383-x)

> [Exclusive Q&A: John Carmack's 'Different Path' to Artificial General Intelligence](https://dallasinnovates.com/exclusive-qa-john-carmacks-different-path-to-artificial-general-intelligence)

### Checklist to AGI
> [Road to AGI v0.2](https://maraoz.com/road-to-agi/)






