/ ACTIVITY

다시듣는 Tech 세미나 AI Agent 기반 문제 정의 방법과 해결 방안 모색

대외활동 게시글 목록

AI Agent 기반 문제 정의 방법과 해결 방안 모색

https://devocean.sk.com/vlog/view.do?id=305&vcode=A03

발표는 다음과 같은 순서로 진행되었습니다.

  1. 정의
    • Agent ⊂ AI
  2. AI 배경 지식 (이론)
    • Symbolic AI vs. Machine Learning
    • BDI (Belief Desire Intention) 이론
    • BDI vs. FSM (Finite State Machine)
  3. PRS (Procedure Reasoing System) / IRS (Inteligent Reasoning System)
    • Examples
  4. 문제를 해결하는 방법
    • Agent-based Modeling vs. Equation-based Modeling

AI Agent의 정의는 굉장히 광범위하지만 학문적으로 어떻게 정의되고 응용하고 있는지를 다뤄주셨습니다.

정의

AI는 기계가 생각할 수 있는가?로 시작하여 생각하는 과정을 어떻게 모방할 수 있는가?를 고민하는 분야가 있다고 합니다.
Agent는 사용자를 대신하여 원하는 작업을 자동으로 해결하여 주는 시스템을 의미합니다. 즉 유기적으로 연관되어 있는 시스템을 의미하는데 광범위하기 때문에 자연어 처리나 지식표현같은 인지적 측면, 전문가 시스템, 분산 협동 같은 다양한 범위로 확장이 되고 있습니다.
그래서 Agent는 AI와 시스템의 결합이라고 하셨습니다.

AI 배경지식

보통 AI가 머신러닝을 포함하고 딥러닝이 그 안에 속한다고 배웠지만, 머신러닝은 데이터를 다루고 표현하는 분야, 딥러닝은 multi layer을 통해 더 많은 특징을 표현하지만 AI는 미생물 시스템을 통한 규칙 기반 intelligence입니다.

즉 조건과 명령의 조합으로 Rule을 만들지만 Heuristic Intelligence 분야도 있다고 하였습니다.
그래서 여기서 지식에서 찾는 방법을 의미하고 여기서 Knowledge는 Symbolic AI에서 연구되고 있습니다.
Symbolic AI는 Rule Engine이 핵심이고 대표적으로 Expert System이, Knowledge Graph를 통해 Symbol간의 관계를 컴퓨터에 매핑합니다.
하지만 Symbol 자체의 의미가 없으며 Monotonic한 특성을 가지고 있습니다.

Agent의 특징으로 자율성, 지능, 협동성, 사교성이 있다고 합니다.
사용자의 간섭이 없이 스스로 판단하고, 사용자의 의도를 파악하여 계획을 세우고 지식을 터득합니다. 공통의 목적을 달성하기 위한 프로토콜이 있어야하며, 통신을 통해 도움을 받을 수 있어야합니다.

여기서 확장되어 반응성, 의무, 의지, 목표, 지식을 가진 것을 BDI 에이전트의 특징입니다.

BDI Agent는 에이전트가 가진 가질 수 있는 정보를 의미하는 Belief, 도달하고자하는 상태인 Desire, 행위인 Intention, 트리거인 Events가 있습니다. 이를 통해 방대한 Agent 범위를 개발할 수 있는 구체화를 하는 단계로 만들어졌습니다.

그렇다면 FSM과의 차이는 FSM은 시스템 관점에서 결과를 제공하지만, BDI는 개인 행동 관점에서 결과를 제공합니다. 즉 시뮬레이션에서 BDI Agent 활용이 더 정확한 결과를 제공합니다. 다만 연산 시간이나 메모리가 더 많이 사용된다고 합니다.

FSM의 감성같이 인간의 행동을 표현하기 어려운 분야에 대해 BDI가 더 효과적이라고 합니다.

PRS (Procedure Reasoing System) / IRS (Inteligent Reasoning System)

BDI를 구동하기 위해 절차적으로 진행될 수 있고 이는 병렬적으로 구현하기 어렵다고 합니다. 여기서는 목표 달성을 위한 에이전트의 의사 결정 과정을 설명합니다. 실행 순서와 조건, 사용한 데이터가 됩니다.

문제를 해결하는 방법

Agent-based Modeling vs. Equation-based Modeling는 결국 접근 방법의 차이라고 하였습니다. Agent는 행위에 대해 관찰하게 되고 Equation은 개체 수 변화, 성공률 등 관계 중심으로 관찰하게 됩니다.

즉 Symbol의 의미를 가지지 않고 지식은 Monotonic하고, 절차 지향성이라는 문제가 있다고 합니다. 다만 학습 단계에서 Heuristic한 관점들이 들어가고 이런 것들을 극복하기 위해 Symbolic AI는 가치가 있다고 합니다. Symbol에 의미를 부여하기 위해 Ontology라는 형식으로 극복하려는 노력도 있습니다. 이를 통해 버전을 관리하고 이는 Monotonic을 극복하려고 합니다.

다만 Equation 모델은 수식을 통해 증명이 되지만 Agent는 모델러의 역량과 경험에서 오는 것을 많이 필요로 한다는 단점이 있습니다.

결론

항상 수식으로만 보던 AI 모델 외에 Agent라는 새로운 분야에 대해서 들을 수 있는 재미있는 세미나였습니다. 여기서 약간 궁금한 점은 강화학습 분야의 Agent 또한 이런 형태의 Agent와 동일한 의미를 갖고 활용하는 용어인가? 라는 궁금증을 가지며 나중에 더 지식 그래프 같은 분야가 발전하게 된다면 어떤 AI 모델이 나올지 궁금하다는 생각이 들었습니다.