[CMSA] Yann Lecun | Objective-Driven AI (1)

Yann Lecun | Objective-Driven AI: Towards AI systems that can learn, remember, reason, and plan

Yann Lecun, 프랑스계 미국 CS 석박으로 Deep Learning의 아버지 3명 중 한 명이다. CMSA는 하버드에서 수학, 과학을 주제로 다루는 연구 센터이다. 여기서 Yann은 AI가 나아가야 할 방향에 대해 설명하며 자신이 생각하는 AGI의 필수 요소를 learn, remember, reason, plan으로 소개했다. 배우고 기억하고 이해하고 설계(목표를 위해 실행)

 

 본 글은 강의의 도입부를 정리함.

Machine Learning sucks!

머신러닝은 생각보다 구리다.

• 동물과 인간
  • 아주 적은 task(행동)으로 새로운 작업을 매우 빠르게 실행가능
  • 전체적(world works)으로 이해한다.(하나의 일이여도 연관지어 생각 가능)
  • 추론과 계획이 가능
  • 공통적인 상식(common sens)을 가짐
  • 행동이 목표에 의해 실행 (objectives)
    • goal을 수행하기 위한 목표
• ML(Machine Learning)
  • Supervised Learning(SL) : 많은 양의 Labeled samples(정답지) 필요
  • Reinforcement Learning : 비이상적으로 많은 양의 시도가 필요
  • Self-Supervised Learning : 일반적인 일에 적용이 가능하지만 다른 작업은 하지 못함 (확장성 0)

현재 기술로 인간 수준의 AI가 왔다고 한다면 단언컨 "NO"라고 함.   

---

We Need Human-Level AI for Intelligent Assistant

인간 수준의 AI 필요성

가까운 미래에 디지털 세계와 모든 상호작용하는 AI Assistant가 나올 것이다.

• Smart glasses : 음성, 시각, 디스플레이, EMG 등을 통해 소통
• Intelligent Assistant
  • 모든 질문에 답변
  • 일상생활에 유용
  • 사용자의 선호도와 관심사 파악 

 

 

 

영화 "Her"처럼 인간 수준의 지능을 가진 머신이 나오려면 Remeber(기억), reason(이해), plan(계획) 할 수 있는 기능이 요구됨

 

HER AI 분석 글

- Her의 인공지능 로봇(Samantha)는 수백만의 프로그래머들의 성격을 가지고 있으며 매 순간 진화(Learn)함.

- 주인공의 관심사에 맞는 것을 찾아주기위해 (Plan) 실행함.

 

 

 

 

 

---

Future AI Assistants need Human-Level AI

미래 AI Assistant에게 필요한 인간 수준 AI

AI 비서에게는 (초)인간 수준의 지능이 필요함.

마치 우리를 위해 일하는 똑똑한 "사람들"로 구성된 직원을 두는 것과 같음 하지만 오늘날 우리는 인간 수준의 AI에 근접하지 못함.

• 17세 청소년은 20시간의 훈련으로 운전을 배울 수 있다.
• 10세 어린이는 한 번에 식탁을 치우는 법을 배울 수 있다.
• 집고양이도 복잡한 행동을 계획할 수 있다.

AI에게 부족한 것은 무엇일까요?

• 세상이 어떻게 돌아가는지 배우는 능력 (텍스트뿐만 아니라)
• World models, 상식
• 기억, 추론, 계층적 계획

 

 

AI는 스스로 배우지 못하고 있다. 데이터 전처리를 통해 팽귄밀크를 만들어 떠먹여 줘야한다. 또한 공통 지식을 공유하지 못한다. 인간은 5감각을 이용해 세상을 배우는 반면 AI가 배우는 방식은 세상을 배우지 못한다.

 

 

 

 

 

 

 

 

 

 

 

---

Desiderata for AMI (Advanced Machine Intelligence)

AMI에 대한 갈망

sensory(실제 인간의 5감각처럼) 입력으로부터 세상 모델을 학습하는 시스템 ex) 비디오에서 직관적인 물리 법칙을 학습

• 지속적인 메모리를 가진 시스템
  • 대규모 연관 메모리(memory)
• 행동을 계획할 수 있는 시스템
  • 목표(object all)를 달성하기 위해(plan)
• 제어 가능하고 안전한 시스템
  • fine-tuning이 아닌 설계 자체 변경을 의미
• 목표 중심 AI 아키텍처

 AMI를 달성하려면 위와 같이 입력 data부터 달라야한다. 인간의 지각능력처럼 시각을 통해 원근감을 배우고 코를 통해 냄새를 알아야한다. 또한 AI가 올바른 답을 도출하기 위해 fine-tuning이 아닌 다른 구조의 방식으로 AI가 학습되게 해야한다.

---

https://www.youtube.com/watch?v=MiqLoAZFRSE