Seonglae ChoProof of compressed data in deep network
before gpt1
Why Important
일리야 수츠케버와 AGI의 미싱링크
엔비디아의 젠슨 황과 OpenAI의 일리야 수츠케버가 AI의 과거, 현재, 그리고 미래를 이야기하는 인터뷰가 GTC Digital Spring에 있었습니다.
일리야는 AlexNet부터 GPT까지, 그야말로 딥러닝의 시작과 끝을 가장 앞에서 이끌고 있는 젊은 과학자입니다. 그는 그동안 무엇을 느끼고 앞으로 어떤 생각을 하고 있을까요?
AGI로 나아가는데 꼭 필요한 미싱링크가 무엇인지, 이 인터뷰를 통해 생각해보도록 합시다.
시청해주시는 한 분, 한 분께 진심으로 감사드립니다.
https://www.youtube.com/watch?v=LQviQS24uQY&t=840
Unsupervised sentiment neuron
We’ve developed an unsupervised system which learns an excellent representation of sentiment, despite being trained only to predict the next character in the text of Amazon reviews.
https://openai.com/research/unsupervised-sentiment-neuron
Sentiment Neuron
OpenAI에서 한 RNN 연구에 관해 블로그 포스팅과 페이퍼 그리고 코드(텐서플로우)를 공개했습니다. 내용을 간단히 요약하면 4,096 개의 multiplicative LSTM 뉴런으로 8천 2백만개의 아마존 리뷰에 대해 다음 문자(character)를 예측하도록 학습시켰습니다. 그런다음 Stanford Sentiment Treebank 데이터셋으로…
https://tensorflow.blog/2017/04/07/sentiment-neuron/
