의사 결정 트리의 구축, 지식 기반 모델

1. 의사 결정 트리의 구축

의사 결정 트리(Decision Tree)는 규칙을 바탕으로 구축된 순서도이며, 이진 트리 형태로 구성되어 있다. 이러한 트리는 통계학에 기반을 두고 있으며, 데이터를 처리하거나 분석할 때 널리 사용되는 방법 중 하나이다. 의사 결정 트리는 데이터를 분석하여 이들 사이에 존재하는 패턴을 예측 가능한 규칙들의 조합으로 표현하는 유용한 기법이다.

 

의사 결정 트리는 여러 가지 노드로 구성되며, Root node(뿌리 마디)는 초기 지점을 나타내고, Intermediate node(중간 마디)는 중간 노드로, 각 가지는 속성의 테스트를 수행하며 테스트 결과에 따라서 나뉘게 된다. Terminal node(끝마디)는 클래스의 라벨을 나타내며, 각 terminal node의 개수는 분리된 집합의 개수를 의미한다. 이러한 terminal node 간에는 교집합이 존재하지 않아서, 각 집합이 서로 독립적임을 보여준다. 통계학 기반의 데이터 분석을 실행함으로써 이와 같은 규칙을 발견할 수 있는 가능성이 존재하며, 의사 결정 트리를 통해 다양한 상황을 고려할 수 있다.

 

의사 결정 트리는 크게 두 가지 종류로 나누어지는데, 첫째는 회귀 트리(Regression Tree)이고, 둘째는 분류 트리(Classification Tree)이다. 회귀 트리는 출력 변수가 연속형이며, 예측된 결과로 특정 의미를 지니는 실수값을 출력하는 경우로, 예를 들어 주택의 가격이나 환자의 입원 기간 등을 예시로 들 수 있다. 반면에 분류 트리는 출력 변수가 범주형이며, 예측된 결과로 입력 데이터가 특정 클래스로 분류되는 결과를 출력한다.

 

이러한 의사 결정 트리의 장점은 여러 가지가 있다. 첫째, 결과를 해석하고 이해하기 쉬운 특성이 있다. 둘째, 자료 가공이 필요 없으며, 수치 자료와 범주 자료 모두에 적용할 수 있다. 셋째, 화이트 박스 모델로서 사용 조건에 대한 설명이 쉽다는 장점이 있다. 이는 시계망과 같은 대표적인 블랙박스 모델과는 대조적이다. 또한 의사 결정 트리는 다른 강점을 지니고 있는데, 그것은 안정성이 뛰어나고, 명제의 불완전성에도 정상적으로 동작하며, 대규모 데이터셋에서도 원활히 운영될 수 있다는 점이다. 이로 인해 방대한 데이터를 일반적인 컴퓨터로 합리적인 시간 내에 분석할 수 있다는 것도 큰 장점이다.

 

그러나 의사 결정 트리에는 단점도 존재한다. 예를 들어, 휴리스틱 기법이 포함되어 있어 완벽한 결과를 얻기 어려울 수 있다. 또한, 훈련 데이터 학습자가 일반화를 잘못하는 경우, 복잡한 결정 트리가 생성될 수 있다. 배타적 논리합, 태티리, 멀티플렉서 등의 특정 문제를 처리하는 데 어려움이 있을 수 있으며, 레벨이 다른 결과를 처리할 때는 많은 레벨을 갖는 결과로 치우칠 위험이 있다. 마지막으로, 의사 결정 트리는 약간의 차이에 의해 트리의 모양이 크게 결정될 수 있으며, 데이터의 특성에 따라 분류율이 떨어질 수 있는 한계가 있다.

 

2. 지식 기반 모델

지식 기반 모델은 규칙 기반 모델을 활용하여 규칙을 변경하는 방식으로 작동하며, 지식 기반 시스템은 전문가의 지식을 데이터베이스화하여 저장하고 이를 통해 특정 문제를 해결하기 위해 실세계의 지식을 컴퓨터를 이용하여 표현하는 시스템으로 정의될 수 있다. 이러한 시스템에서는 규칙이 변경되거나 증가할 경우, 규칙 변경 시 규칙을 일일이 수정하는 작업이 필요하게 되며 이는 고비용과 저효율을 초래할 수 있다. 따라서 프로그램과 데이터를 분리하여 처리하고, 이때 분리된 데이터는 지식 기반으로 간주된다.

 

규칙이 고정적인 경우에는 규칙을 변경하기 위해 프로그램을 수정하는 것이 어려워질 수 있으며, 초기에 프로그래밍의 방향성 설정이 중요해진다. 조건 설정이 변경될 경우 프로그램 변경 작업이 쉬울 경우에 문제는 없겠지만, 일반적으로 프로그램을 수정하는 것보다 다시 프로그래밍하는 것이 효율적일 수 있는 경우가 많다. 이처럼 지식 기반 시스템에서 조건 설정과 데이터셋을 처리하는 프로그램을 분리하는 것은 매우 중요하다.

 

지식 기반(Knowledge Base)은 이러한 분리된 조건 설정 데이터셋을 파일 시스템 또는 데이터베이스 관리 시스템(DBMS)을 활용하여 처리할 수 있도록 하며, 텍스트 편집기, GUI 형태의 인터페이스, 쿼리 언어 등을 이용한 시스템 활용이 가능하다. 이러한 시스템은 사람도 검색할 수 있는 지식 기반 시스템으로, 지식 기반에 저장된 데이터는 대량으로 저장될 수 있으며, 프로그램에서 지식 기반을 사용할 수도 있지만 전문적인 지식을 갖지 못한 일반 사용자들도 활용할 수 있는 장점이 있다. 지식 기반 시스템(Knowledge Base System; KBS)은 프로세스적인 처리보다 사람의 경험적 처리에 우선하는 형태를 띠며, 지식 기반 시스템에서의 검색은 특정 문제에 한정될 수 있다.

 

범용적인 문제 처리를 위해서는 사람의 경험적 처리가 효율적일 수 있으며, 이를 위해서는 고도의 특화된 도메인 지식, 즉 전문가의 지식이 필요하다. 지식 기반과 추론 엔진의 결합은 이러한 시스템이 더 향상된 문제 해결 능력을 발휘할 수 있도록 돕는다. 예를 들어, UniProtKB는 유럽 생명 과학 분야 기관들이 협력하여 만든 지식 기반 데이터베이스 시스템으로, 단백질 정보 수집 후 주석 처리를 통해 전 세계 주요 데이터베이스에 등록된 유전자 염기 서열과 아미노산 서열을 수집하고, 큐레이션을 통해 UniProt Catalog 데이터베이스와 분석 도구 등을 개발하는 데 중점을 두고 있다. 이 시스템은 단백질을 구성하는 아미노산 서열과 단백질 특성에 초점을 맞춘 정보를 공개함으로써 생명 과학 연구에 중요한 자원으로 자리잡고 있다.