챗GPT를 잘 사용하는 것에 포커싱이 맞추는 것은 개인뿐만아니라 조직의 일원으로서도 매우 위험할 수 있다. 이는 문제정의-문제해결 더 나아가 문제를 인식하는 것 전반에 대한 사고 과정의 의존성만 증가할 뿐이기 때문이다.
챗GPT 라는 키워드는 이미 자동 수익모델, 마케팅 용어로 혼탁해진 상황이되었다. 이전 포스팅에서 작성한 바 있지만 프롬프트 엔지니어링 또한 인간보다 챗GPT가 더 잘한다.
챗GPT는 이미 워크맨과 같은 대명사가 되어버렸다. 그리고 최근들어 더 싸고 좋은 LLM 모델들이 생겨나고 있다. 문제는 이들의 성능을 높이는 프롬프트 기준이 저마다 다르다는 점이다.
따라서 인간으로서 이들을 도구로서 사용하기 위해서는 의존적 관계보다 선택적 관계를 맺어야한다. 이를 위해서는 특정 브랜드에 대한 프롬프트 엔지니어링 기법을 연구하기보다 '나만의 AI 에이전트를 직접 설계하고 만들어서 사용'할 수 있는 환경을 구성하는 과정이 무엇보다 중요하다. https://www.youtube.com/watch?v=fsIipBuM4Nc
이를 위한 툴로는 CrewAI, DEVIKA , AutoGen Studio가 있다. 왼쪽에서 오른쪽으로 갈 수록 노코드에 가깝게 에이전트를 구성할 수 있다.
Agents는 무엇인가
'행동할 수 있는' 능력을 가진 개체를 말한다. 사실, 여기서 'to Act'는 우리는 매일 무의식적으로 행동(Act)하는 그것을 말하는데 아주 오래 전부터 우리는 이 행동에 대해 많은 고민을 해왔었다. 그 과정을 통해 이른바 "합리적 사고"가 시작되었다.
가장 멀리는 아리스토텔레스의 경우, 우리는 목적이 아니라 수단에 대해 고민합니다. 의사는 치료할 것인지, 웅변가는 설득할 것인지를 고민하지 않습니다. 그들은 목적을 가정하고 그것을 달성하는 방법과 수단을 고려합니다. 라고 말한 적이 있다. 결국 행동은 마음이 원하는 것을 원한다. 그래서 내가 있는 곳과 내가 되고 싶은 곳 사이에서 수 많은 노드(작은 작업)들-이른바 행동의 길-로 을 따라 우리는 행동을 하게 된다.
컴퓨터 과학과 이론의 아버지라 불리우는 13세기 라몬 Ramon Llull은 Logical System to discover the Truth 진실을 발견하는 논리 체계를 통해 '인류는 일종의 논리적 연산 같은 것을 가지고 있다'라고 주장한 바 있고 19세기 최초의 알고리즘이라고 불리우는 Note G를 작성한 에이다 Ada Lovelace는 사고는 어쩌면 추론 기계와 같다고 언급한 바 있다. 이는 2000년도 더 지난 시대를 살던 이들의 생각이다.
1950년 앨런튜닝을 시작으로 00등 수 많은 이들을 통해 심볼릭 AI가 등장했지만 현실 세계의 수 많은 경우의 수에 부딪치면서 오랜기간 AI 윈터를 맞이하게 된다.
오늘날 AI는 세부사항을 다루지 않고 토큰을 예측하는 방식으로 생각하는 것과 같은 결과를 도출해낸다. 그리고 그 후로는 다양한 레이어를 붙이는 딥러닝과 특정한 환경에서 일종의 규칙을 따르는 에이전트에게 보상과 처벌을 통해 강화 학습을 진행하는 방식으로 진행되었고 2016년 Open AI를 통해 개방된 환경에서 이루어진 방식으로 변화되었다.
AI가 ' 지능적이다'라는 기준은 1980년 이전에는 '(우리의) 목표를 달성하는 것'에 포커스가 맞춰졌고 그 이후로는 '다양한 특정 환경에 대해 스스로 인식한 바를 고려하여 목표를 달성할 수 있는 것'으로 변화했다. 현재 에이전트의 기준은 단순히 특정 기능을 수행하는데 그치지 않고, 인간과 함께 이상적이고 자율적으로 행동할 수 있어야 한다. 주요 기능으로는 자율적 조치 autonomous action, 기억 memory, 사회적 능력 social ability, 반응성 reactivity, 능동성 proactivity이 있을 수 있다.
Agents는 무엇을 하는가( 그리고 사람은 무엇을 할 수 없는가)
컴퓨터 과학자인 스튜어트 러셀은 Human Compatible라는 책을 통해 "... 기계가 음성 및 텍스트 이해를 할 수 있음으로 해서 사람이 할 수 없는 일을 할 수 있게된 근본적인 이유는 이해의 깊이가 아니라 그 규모 때문이다." 라고 말한다
우리는 에이전트와 경쟁할 수 없지만 이것이 무엇인지 알면 그들을 통해 할 수 있는 것들이 많아진다.
Agents는 무엇을 하는가( 그리고 하나의 Agents는 무엇을 할 수 없는가)
1. Iteration -> Less Hallucinations -> Improved Accuracy
"GPT-3.5(제로 샷)의 정답률은 48.1%였습니다. GPT-4(제로 샷)는 67.0%로 더 잘 맞았습니다. 그러나 반복 에이전트 워크플로우를 통합하면 GPT-3.5에서 GPT-4로 개선된 성능은 크게 줄어듭니다. 실제로 에이전트 루프로 감싸면 GPT-3.5는 최대 95.1%의 정확도를 달성합니다. - Andrew NG"
2. Offload decision making and prioritization
단일 에이전트가 할 수 없는 의사 결정 및 우선순위 지정 작업 부하 분산
