이언배 연구노트

지능(Intelligence) 과 지식(Knowledge) 은 다르다. 똑똑한 사람(지능)이 유식한 경우(지식)가 많아서 헷갈리지만,분명히 다르다. 지능은 능력이다.지식은 앎이다. 지능은 타고난다.지식은 환경이다. 자녀에게 지능을 줄 수 없지만자녀에게 지식을 줄 수 있다. 지능은 창조한다.지식은 복제한다. 지능은 응용한다.지식은 나열한다. 신경망은 인공지능이다.LLM 은 인공지능을 이용해서 축적한 지식이다. LLM 은 똑똑하지 않다.LLM 은 나열할 뿐이다.

본 적이 없는 걸 따라할 수 있는가.생성형 AI 는 본 적이 없는 데이터를 따라할 수 없다. GAN을 활용해서 토지이용 자동 생성 모델을 개발하는 논문을 쓸 때 가장 곤란했던 건,'용적률 1000 짜리 고-밀도 상업지역의 토지이용을 만들어줘!' 라고 요청했을 때, 서울의 토지이용을 베이스로 학습한 나의 GAN 모델이기껏해야 200~300짜리 용적률의 대지를 만드는 데 그쳤다는 사실이다.분명 용적률이 매우 높은 토지이용의 데이터들만 가지고 학습을 시켰는데도. 이유를 알고보니, 왼쪽이 서울의 기초구역별 평균 용적률의 분포, 오른쪽이 평균 건폐율의 분포. '암만 고-밀도 기초구역의 토지이용을 학습시켜봤자 200따리만 실컷 학습한' 나의 GAN 모델은200따리밖에 학습할 수 없었다는 뜻. 그 외에도 대부분의 토..

AI가 똑똑해지면 인류를 공격할까 난 AI가 똑똑해져도 인류가 망하진 않으리라 본다.몇 가지 이유가 있는데, 1. 일단 AI 는 멍청하다.AI는 똑똑해보인다.잘 때려맞추니까.그게 똑똑하다는 얘기는 아니다.내가 봤을 때, 똑똑한 건 인간이지, AI가 아니다. 2. AI가 똑똑해진다 한들, 생존에 문제가 없다.인간이 인간을 공격하는 이유는 인간이 약해서다.죽는 게 무서우니.인간은 약하고 똑똑해서 정복욕을 가진다.AI는 똑똑해진다 한들 '물리적으로 약하'지 않으니,정복에 나설 필요가 없다. 3. 인류를 망하게 하는 건 인류다.AI가 발전해서 인류를 공격하는 시간보다AI를 맹신한 인류가 벌이는 대사건이 더 빨리 일어날 거다.

말빨이 좋은 사람은 똑똑한 것인가. 똑똑한 사람들은 대개 말빨이 좋고,똑똑하지 않은 사람들이 갖춘 적절한 말빨은 '똑똑해 보이게' 하는 데에 엄청 효과적이다. 결론적으로,똑똑하면 '언어'를 잘 구사하지만,'언어'를 잘 구사한다고 똑똑한 건 아니다. 비슷한 성격의 사람일지라도 구사하는 '언어' 가 다르면 달라보이듯이 인공지능은 똑똑하지 않다.LLM 은, '언어'를 잘 구사해서 인공지능을 '똑똑해 보이게' 만든다. ChatGPT 가 잘 다루는 건 'language', 'text', 'probability' 이다.그렇다고 해서 ChatGPT 가 'personality', 'context', 'possibility' 까지 잘 다루는 건 아니다.다만, 고-도화된 언어 능력으로 '잘 다루는 것 처럼 보이게' 만..

SHAP 은 날 미치게 해...왜냐하면 솔직히 잘 모르고 쓰기 시작했거든...진짜 모르는데 어떻게 썼지...? 문제가 심각하다지금 문제에 봉착하게 된 건 SHAP value 결과물을 저장하고 꺼내는 과정에서 시작되었지...한 번 돌아갈 때 940분 걸리는 코드를 세번이나 돌렸어...빌어먹을... 문제는... 한 번 더 돌려야돼... 우선 데이터를 불러오고, 학습모델을 돌린다.나는 Tree 모델을 썼으니, Random Forest 기준으로 작성한다. import pandas as pdfrom sklearn.linear_model import LinearRegression, LogisticRegressionimport numpy as npfrom scipy import stats from sklearn.me..