개발자/인공지능과 인간

꼼꼼하게 풀어쓴 인공지능의 역사 1943년~1970년

지구빵집 2020. 6. 18. 10:12
반응형

 

 

역사에 대해 알아보는 일은 중요하다. 세상에 없던 것이 나오는 경우는 없다. 누구나 자라온 환경에서 보고 듣는 것에 기반하지 않은 사고와 창의성은 나오지 않기 때문이다. 아래 인공지능의 역사에 대한 포스팅은 서울대학교 컴퓨터공학과 대학원에 재학중인 오현석님 ai study 사이트에 있는 내용을 참고하여 추가하고 내용을 풀어쓴 것이다. AI 분야에 대해 정리를 탁월하게 하셨다. 같은 사이트의 링크를 가능하면 그대로 두었고 추가 되는 내용의 링크를 삽입했다.

 

인공지능 역사에 대한 다른 포스팅을 참고한다. 아래 강의 자료를 참고한다.

 

인공지능 분야의 개략적인 역사

꼼꼼하게 풀어쓴 인공지능의 역사 1900년~1950년

꼼꼼하게 풀어쓴 인공지능의 역사 1943년~1970년

꼼꼼하게 풀어쓴 인공지능의 역사 1970년~1980년

꼼꼼하게 풀어쓴 인공지능의 역사 1980년~1990년

꼼꼼하게 풀어쓴 인공지능의 역사 1990년~현재

 

 

꼼꼼하게 풀어쓴 인공지능의 역사 1943년~1970년

 

1943 워런 맥컬록(Warren McCulloch)와 월터 피츠(Walter Pitts)는 수학과 임계 논리(threshold logic)라 불리는 알고리즘을 바탕으로 신경망을 위한 계산학 모델을 만듬. 이 모델은 신경망 연구의 두 가지 다른 접근법에 대한 초석을 닦았다. 뇌의 신경학적 처리에 집중. 인공 신경망의 활용에 집중

• 1940년 후반: 심리학자 도널드 헤비안(Donald Hebb)는 헤비안 학습(Hebbian learning)이라 불리는 신경 가소성의 원리에 근거한 학습의 기본 가정을 만들었다. 헤비안 학습 - 전형적인 자율학습으로 이것의 변형들은 장기강화(long term potentiation)의 초기 모델이 된다.

 1951 EDVAC 이 최초의 von Neumann computer 로서 Pennsylvania 대학에서 구축되다. Census Bureau에서 Remington-Rand UNIVAC을 159,000 달러에 구입하다. IEEE Computer Society  설립되다. 대륙간 흑백 TV 가 미국에서 시연되다. Marvin Minsky와 Dean Edmonds 가 미로를 통과하는 쥐(rat finding)를 시뮬레이션한 최초의 인공 신경망 (Neural Network)을 만들다.  

 1952 CBS에서 Eisenhower-Stevenson 간의 대통령 선거 예측을 위해 UNIVAC을 사용하다. First computer used by DoD (IBM 701) Grace Murray Hopper 가 compiler를 묘사하다. Pocket transistor radio 가 소개되다. Rochester designs IBM 701  

 1953 Watson and Crick 가 DNA의 화학적 구조를 발견하다.  

 1954 Alan Turing 청산가리 (cyanide) 묻은 사과를 먹고 중독되어 의문의 자살을 하다. 그 전해인 1953년에 동성애로 유죄 판결을 받은 바 있다. Isaac Asimov "The Caves of Steel" (Robot Science Fiction)을 출간하다. 팔리(Farley)와 웨슬리 클라크(Wesley A. Clark)가 MIT에서 헤비안 네트워크를 모의 실험하기 위해 처음으로 계산학 모델(후에 계산기라 불리는)을 사용

 1955 Allen Newell, J.C. Shaw, Herbert Simon 가 최초의  AI 프로그램 Logic Theorist (LT)를 선보이다 (Carnegie Institute of Technology, 지금의 Carnegie Mellon 대학). 그것은 수학 문제를 풀기 위한 것이며 추론 프로그램으로서 비수치적으로 사고하는 컴퓨터 프로그램이라고 소개하였다. 그것은 searching, goal-oriented behavior, application of rules을 복합하여 사용한 정리를 증명했다. 그것은 IPL 언어로 list processing technique을 사용하여 만든 것이다. 그 프로그램은 여러 방송 매체를 통해 소개되기도 하였다. Allen Newell, Herbert Simon, J.C. Shaw 이 최초의 AI 언어 "IPL"(Information Processing Language)을 만들다. 그것은 Logic Theorist를 만들기 위해 개발한 새로운 컴퓨터 언어이다. 그것은 associative memory를 흉내 내어 관련된 정보의 조각들 사이에 포인터를 제공하며, 상호작용하는 심벌 구조를 생성, 변화, 파괴하는 기능이 제공되었다. IBM에서 최초의 transistor 계산기를 소개하다. Sperry-Rand merger  

 1956 Dartmouth 대학에서 thinking machine에 관한 2 달 간의 여름 회의가 열렸는데 John McCarthy, Marvin Minsky, Claude Shannon, Nathaniel Rochester, Ray Solomonoff, Oliver Selfridge, Trenchard More, Arthur Samuel, Herbert Simon, Allen Newell 등이 참여하였지만 AI에 관한 일치된 견해를 보이지는 못했다. ..... (A PROPOSAL FOR THE DARTMOUTH SUMMER RESEARCH PROJECT ON ARTIFICIAL INTELLIGENCE)John McCarthy 가 Dartmouth conference에서 "Artificial Intelligence"라는 용어를 새로 만들다. 그 용어는 그 회의의 주제이기도 했다. IBM에서 Nathaniel Rochester 가 설계한 최초의 범용 컴퓨터 701을 출시하다. George Miller 가 "The Magic Number Seven"을 출간하였는데 그것은 short-term memory의 한계를 보여주는 것이다. CIA에서 GAT machine-translation project에 재정지원을 하다. 컴퓨터 언어 FORTRAN이 IBM에서 John Backus에  의해 발명되다. Bank of America에서 최초의 상업용 banking system 인 ERMA를 만들다. Stanislaw M. Ulam 이 "MANIAC I"을 개발하였는데 그것은 인간을 이긴 최초의 chess program이다. 로체스터(Rochester), 홀랜드(Holland), 하빗(Habit), 두다(Duda)에 의해 다른 신경망 계산학 기계들이 만들어짐.

 1957 Newell과 Simon 은 "수단 목표 분석 (Means Ends Analysis)" 를 포함하는 General Problem Solver (GPS)를 만들다. Means-ends analysis 는 여러 가지 factor를 변화시켜 바람직한 결과와 예상되는 결과 사이의 차이를 줄여나가게 한다. GPS와 그 후의 AI 프로그램은 실제로는 문제 해결 능력에 한계를 보이는데, 그 이유는 프로그래머가 규격화된 방법으로 계속 정보를 제공받아야 하고 새로운 문제를 정의해야만 하기 때문이다. 그렇지 않으면 문제 해결에 거의 도움을 주지 못한다. 이것은 오늘날에도 여전히 문제로 남아있다. Edward Feigenbaum 이 EPAM (Elementary Perceiver and Memorizer) 을 만들어 인간이 아무 뜻도 없는 음절 (nonsense syllables) 들을 어떻게 기억하는지에 관한 모델을 보여주었다.Herbert Gelernter 와 Nathan Rochester (IBM) 가 기하학에서의 Theorem Prover를 만들다. 그것은 탐색(Search) 에서의 Pruning 을 사용하여 10 억개의 alternative (기하 정리의 3단계 증명을 위해) 를 단 25 개 까지 줄였다. 그는 "model referencing."을 최초로 사용한 것이다. 그것은 전형적인 경우에 도형의 형태에서 semantic model을 사용하였다.MIT 의 언어학자인 Noam Chomsky 는 저서 "Syntactic Structures" 에서 언어는 그 의미를 참조하지 않고도 분석될 수 있다고 주장하였다. 달리말하면 syntax 는 semantics 로부터 독립적이라는 것이다. 이러한 개념은 AI 연구자들을 흥분시켜 마치 지식이 그 의미하는 바를 몰라도 표현되고 분석될 수 있는 것처럼 받아들여 졌다. 그러나 이러한 개념은 인간의 언어에는 잘 적용되지 않는다는 것을 경험적으로 보여주어왔다.

 1958 John McCarthy 와 Marvin Minsky 가 MIT 에 AI Lab 을 만들다. ALGOL 58DARPA (Defense Advanced Research Projects Agency) 설립되다. Jack St. Clair Kilby 가 integrated circuit 를 발명하다.John McCarthy 가 MIT에서 LISP 을 만들다. 그것은 초기 AI 언어 IPL을 대체하였고, 1962년에 개발된 COMIT 와 상대하여 널리 사용되었다. 프랑크 로젠블라트(Frank Rosenblatt)는 퍼셉트론을 개발. 퍼셉트론 : 간단한 덧셈과 뺄셈을 하는 이층구조의 학습 컴퓨터 망에 근거한 패턴 인식을 위한 알고리즘.

 1959 Kurtz & Kemeny 가 time sharing 을 소개하다.미국방성 주관으로 정부기관, 컴퓨터 제조업자 및 기업 등의 사용자들이 모여 사무처리용 언어의 필요성과 가능성을 검토하는 회의를 갖고 새로운 고급언어의 개발에 착수하기로 하고 CODASYL (Conference ON Data SYstem Language) 이라는 모임을 구성하여 1960년 4월 COBOL-60 이라는 COBOL 첫 번째 버전을 발표하였다. Robert Noyce(TI)이 Kilby 와는 독립적으로 integrated circuit 를 발명하다.  

 1960 전기공학자 Bernard Widrow 와 Marcian Hoff 는 <Adaptive switching circuits>라는 논문에서 perceptron 모델의 선형화와 유사한 위드로 - 호프 모델을 제안하였다. LINC 는 integral CRT 를 가진 최초의 "minicomputer"이다. (Lincoln Labs)Tape drive가 등장하다. Margaret Masterman 과 동료들은 Cambridge에서 기계번역을 위해 semantic nets 를 설계하다.  Bar-Hillel 이 기계번역의 어려움을 서술한 문서를 발표하다.

 1961 엔지니어인 Mortimer Taube가 최초의 anti-AI 서적 "Computers and Common Sense: The Myth of Thinking Machines." 을 출간하였으나 큰 주목을 받지는 못했다.James Slagle가 MIT에서 박사논문으로 최초의 symbolic integration program 인 SAINT 을 만들다. 그것은 Lisp 으로 쓰여졌으며 대학 신입생이 calculus problems 을 해결하는 프로그램이다.DEC 에서 PDP-1 을 120,000 달러에 팔다. John F, Kennedy가 의회에서 Apollo 프로젝트를 제안하다.

 1962 Frank Rosenblatt 는 학습 알고리듬이 입력과 일치하는 해당 출력을 산출하기 위해 뉴런간의 연결 강도를 조절하여 수렴한다는 유명한 퍼셉트론 수렴이론(perceptron convergence theorem)을 발표. Rosenblatt는, 1958년 발표된 <The perceptron : a probabilistic model for information storage and organization in the brain>라는 논문과 1962년에 발표된 《Principles of Neurodynamics》라는 책에서, 신경세포와 유사한 단순 계산기능을 갖는 요소로 구성된 입력층과 출력층을 갖는 퍼셉트론 (Perceptron) 이라는 신경 시스템의 모델을 제시하고, 입력과 출력 사이의 synapse 를 출력층의 제곱오차가 최소가 되는 방법으로 학습시킬 수 있음을 보여 주었다. 최초의 산업용 로봇회사인 Unimation 설립되다.John McCarthy 가 Stanford 대학으로 옮기다. Purdue 대학에서 박사학위를 주는 최초의 computer science 학과를 설립하다.Murphy & Greenblatt's TECO text editor on PDP1 at MITKuhn's "Structure of Scientific Revolutions"Hintikka's "Knowledge and Belief"Kripke's "Possible Worlds Semantics"  Arthur Samuel (IBM) 이 최초의 게임 프로그램을 만들었는데 그것은 checker 게임이었다. 그것은 기계 학습 (Machine Learning) program 이었으며 세계 챔피언을 이길 정도로 훌륭했다.

 1963 Thomas Evans 가 MIT 에서 Marvin Minsky 지도로 박사학위 과정에서 프로그램 ANALOGY 을 만들다. 그것은 IQ 테스트에 나오는 것과 유사한 기하학 문제를 푸는 것으로서 과거의 기하학 패턴을 가지고 현재의 패턴을 연관시키는 문제이다. Edward A. Feigenbaum 과 Julian Feldman 이 AI 에 관한 기사를 모은 최초의 서적 Computers and Thought 를 출간하다.Stanford 대학에 John McCarthy 가 AI lab 을 설립하다.ARPA 에서 MIT AI Lab 에 2 백만달러를 기부하다.American Airlines 의 SABRE System 은 최초의 항공 예약시스템이다.Sutherland's SKETCHPAD: drawing tool (CAD), constraint solver, WYSIWYGM. Ross Quillian 이 지식표현 수단 으로서의 semantic networks 을 소개하다.MIT Project MACSusumo Kuno's parser tested on "Time flies like an arrow"Marvin Minsky 가 역사적인 논문 "Steps Towards Artificial Intelligence" 발표하다.

 1964 Daniel Bobrow 의 MIT 박사학위 논문에서 (tech.report #1 from MIT's AI group, Project MAC) 프로그램 STUDENT 가 고등학교  algebra word problems을 정확히 풀 수 있을 정도로 자연어를 이해할 수 있다는 것을 보여주었다Bert Raphael 의 MIT 박사 논문에서 SIR program 이 질의응답 시스템 (Question Answering System) 을 위한 논리적인 지식 표현의 능력을 가지고 있음을 보여주다.DEC PDP-8 이 최초의 mass-produced minicomputer 가 되다.IBM 에서 360 series 를 소개하다.Kemeny & Kurtz introduce "BASIC"McLuhan writes "Understanding Media", predicts global electronic villagePL/1, BASICDevelopment of BBNLisp begins at BBN   

 1965 철학자 Hubert Dreyfus 와 수학자 Stuart E. Dreyfus 형제가 AI 를 강하게 비판하는 문서인 "Alchemy and AI,"를 그들이 관여하는 RAND Corporation 에서 출간하다.John A. Robinson 이 기계적인 증명과정인 Resolution Method 를 발명하였는데, 그것은 프로그램이 하나의 지식표현 언어로서 형식논리를 가지고 효율적으로 작업할 수 있게 해주는 것이었다.Joseph Weizenbaum (MIT) 이 영어로 대화하는 프로그램인 ELIZA 를 만들다. psychotherapist 의 대화를 시뮬레이션한 버전이 프로그램되었을 때 ARPA-net 의 AI center 에서는 인기있는 장난감에 불과하였다. Herbert Simon 은 1985년까지 인간이 할 수 있는 어떤일도 기계가 할 수 있게 될 것이라고 예측하다.APLBruce BuchananEdward  Feigenbaum, Lederberg 가 DENDRAL 전문가시스템 프로젝트를 시작하다.Iva Sutherland 가 최초의 head-mounted display (virtual reality) 를 선보이다.Carnegie Mellon University 의 Robotics Institute 가 Raj Reddy 가 주도하여 설립되다.

 1966 Ross Quillian 이 박사논문으로 Carnegie Institute of Technology (지금의 CMU) 에서 의미망 (Semantic Network) 을 발표하다.기계 번역에 대한 부정적인 보고로 인해 National Research Council 에서의 지원이 끊겨 수년동안 자연어 처리와 관련된 작업을 중단하다.Donald Michie 가 영국 Edinburgh 대학 AI lab 을 설립하다. 또한 최초의 Machine Intelligence workshop을 매년 개최하다. 

 1967 Joel Moses 가 MIT에서 박사학위를 위해 적분 문제에서 symbolic reasoning 의 힘을 보여주다. 그것은 수학에서 최초의 성공적인 지식베이스 프로그램인 Macsyma 를 통해서 이다.Richard Greenblatt 이 MIT 에서 지식베이스의 chess 프로그램인 MacHack을 만들어서 토너먼트에서 C class에 배정받다. 또한 철학자 Hubert Deyfus 와 대결하여 이기다.IBM 에서 hardware 와 software 를 분리하다.Papert develops LOGO  

 1968 미친 컴퓨터를 소재로한 영화 "2001: A Space Odyssey" 가 Stanley Kubrick 감독, Arthur C. Clarkes 원작으로 상영되다. 컴퓨터 이름은 HAL 인데 그것은 컴퓨터 회사 IBM 의 각 문자를 하나 앞선 문자로서 구성한 이름이다.Dijkstra's CACM letter "GO TO statement considered harmful"Englebart demonstrates mouse, windows, multiple raster monitorsFirst PhD in computer science (Wexelblat at Univ. of Penn.)Minsky's "Semantic Information Processing"Chomsky and Halle 이 저서 "The Sound Pattern of English" 을 출간하다. 

 1968 & 1969 Terry Winograd 가 Seymour Papert 의 지도하에 SHRDLU 을 만들다. SHRDLU 은 질의 응답시스템으로 쉬운 영어로 대화하여 화면의 로봇팔로 블록을 옮기는 것이다. 실제로는 많은 한계를 보이는데 왜냐하면 인간이 상식이라는 부르는 많은 양의 지식을 가져야 하기 때문이다.

 1960 연대 중기와 말기Marvin Minsky and Seymour Papert 가 MIT AI lab 에서 Blocks Microworld Project 를 지도하다. 이 project 는 컴퓨터로 하여금 다른 색깔, 모양, 크기의 simple world of blocks를 보고, 조작하도록 하는 것으로 computer vision, robotics, natural language processing 의 발전에 기여하였다. 유사한 실험이 John McCarthy 의 지도로 Stanford에서 진행되었고 Edinburgh 대학에서도 있었다. 

 1969 - 1974 Roger Shank (Stanford)가 개념의존 이론 (Conceptual Dependency Theory) 을 개발하다. 단어가 또다른 의미를 가질 때 원래의 의미로부터 쉽게 추론할 수 있다. 그러나 여러 사건이 연속되어 복잡한 의미를 다룰 때는 부적절한 이론이다. 단지 말해지는 것에서만 추론할 수 있다. 나중에 story understanding (Robert Wilensky 과 Wendy Lehnert) 과 understanding memory (Janet Kolodner) 에 이용되었다. 

 1969 이동 로봇 SHAKEY 가 Stanford (SRI) 에서 조립되다.그것은 block 이있는 8개의 방을 돌아다니고 간단한 영어 명령을 수행하다.International Joint Conference on Artificial Intelligence (IJCAI) 가 최초로 Stanford에서 열리다.Marvin Minsky 와 Seymour Papert 가 출간한 책 "Perceptrons" 에서 single-layer neural networks 의 한계를 설명하다. 지능화된 행동을 생성하기 위해 사용되는 기본 구조상에서의 한계로 인해 불가능한 사실을 학습하려고 한다는 점이 문제가 되어 신경망이 한동안 침체기를 맞이하게 된다. 그 책에서 perceptron 모델이 선형분리 기능밖에 없고 많은 실제 문제를 해결하지 못한다는 것을 증명하였다. 그후 1980년대 다층 신경회로망이 도입되어 이 문제를 해결함으로써 다시 활기를 띠게 되었다.  John McCarthy 와 Patrick Hayes 이 "AI 관점에서의 철학적 문제" 를 발표하여 AI 가 어떻게 진행될지를 재검토하다. 그들은 철학자들이 2500 년에나 실현될 것이라는 견해를 무시했다. 극복해야할 2가지 문제가 있는데, 첫째는 "frame problem,"으로서 엄청난 계산의 부담을 극복하는문제이고, 둘째는 "qualification problem," 으로서 예상되는 규칙을 중단하고 예외의 경우를 수용하는 문제이다. 예를들면 자동차 키를 돌리면 엔진이 시동이 걸린다. 그러나 연료가 없거나 배터리가 방전된 경우를 예상할 수 있어야 한다.Alan Kay 의 박사 논문에서 이론적인 personal computer 를 묘사하다.Green's planner using a theorem prover.Donald Knuth 가 Art of Programming Vol. 1 을 출간하다.Hearn & Griss define Standard Lisp to port the REDUCE symbolic algebra system Doug Engelbart  는 SRI에서 mouse를 고안하다.(1960년대 말) 마빈 민스키(Marvin Minsky)와 시모어 페퍼트(Seymour Papert)에 의해 기계학습 논문이 발표된 후에 신경망 연구는 침체됨, 인공신경망의 문제점 발견. 단층 신경망은 배타적 논리합 회로를 처리하지 못한다. 거대한 신경망에 의해 처리되는 긴 시간을 컴퓨터가 충분히 효과적으로 처리할 만큼 정교하지 않다는 것.  

 1970 Jaime Carbonell 가 SCHOLAR 프로그램을 개발하였는데, 그것은 지식표현 방법 semantic net 에 기초한 computer aided instruction을 위한 interactive program 이다.William Wood (Bolte), Beranek & Newman (Boston)가 자연어 이해를 위한 표현방법으로서 Augmented Transition Networks (ATN) 을 발표하다. 문법해석 과 의미해석을 섞어서 "The beach is sweltering" 와 "The boy is sweltering" 같은 문장의 의미의 차이를 식별할 수 있게 된다.Patrick Henry Winston 이 MIT에서 박사학위 받을 때 발표된 프로그램인 ARCH 는 어린이의 block 장난감의 예로부터 개념을 학습하는 것이었다.Alain Colmerauer 가 AI 언어 PROLOG를 개발하다.Negroponte forms the Architecture Machine GroupPople 과 Myers 가 내과 진단 프로그램 INTERNIST 를 만들기 시작하다.  

 

 

인공지능 영화 중 단연 최고 A.I

 

 

 

 

 

반응형