선형 문제와 비선형 문제

두 변수의 상관 관계는 다수의 데이터에서 예측과 분석을 수행할 때 중요한 역할을 하며, 이를 위해 수학적 모델과 통계 모델이 검토된다. 여기서 중요한 과정은 "임의의 두 개의 데이터를 비교"하고, 수집한 데이터가 어떻게 변하는지를 확인한 후 앞으로 수집할 데이터의 변화를 비교, 예측하는 것이다. 변수는 데이터를 다룰 때 데이터를 구성하는 핵심 항목을 의미하며, 특징량(feature)은 데이터에서 변화를 나타내는 한 가지 이상의 변수 쌍 또는 변수 쌍을 사용한 계산식을 지칭한다.

선형 계획법은 주어진 변수 값 쌍을 그래프에 점으로 표현하였을 때 일직선처럼 보이는 선형 함수와 관련이 있다. 선형 계획 문제는 점의 분포를 선형 함수의 제약과 조건을 이용해 구할 수 있는 문제를 의미하며, 예를 들어 배낭 문제 같은 사례가 있다. 정수 계획 문제는 선형 계획 문제 중에서 정수에 한정해서 문제를 해결할 때 사용되며, 선형 계획법은 이러한 선형 함수를 최적화하여 문제를 해결하는 과정이다.

배낭 문제의 예를 들자면, 여러 개의 짐이 크기와 값으로 변수 값이 분포되어 있을 때 배낭 안에 있는 짐의 값을 최대화하기 위해 짐을 선택하는 과정에서 배낭 용량은 늘릴 수 없음을 조건으로 하기 때문에 최적의 값을 찾는 것이 어려운 문제가 된다. 실제로 금융회사에서 포트폴리오를 구성할 때도 비슷한 접근을 사용할 수 있다; 투자 대상과 예상 수익률을 변수로 구성하고, 투자 금액 및 투자 시 필요한 제약 조건을 설정한 후, 연간 예상 수익률을 최대화하는 것을 목표로 목적 함수를 구성하여 분석을 수행한다.

또 다른 선형 계획법의 실제 사례는 식당의 종업원 수를 시간대 별로 조정하는 문제이다. 시간대 별로 종업원 수를 변수로 구성하고, 시간대에 따른 종업원 수를 제약 조건으로 설정하여 최적의 종업원 수를 목적 함수로 구성해 분석을 실시한다.

사상은 변수 값 쌍을 점 형태로 표현하여 함수 형태로 변환하는 것을 의미한다. 이때 단사 함수(일대일 함수)는 점의 집합이 각각 A와 B일 경우, A의 원소와 B의 원소가 1:1로 대응하는 경우를 말한다. 전사 함수는 A가 B의 모든 원소에 대응하는 함수를 의미하고, 전단사 함수는 A와 B의 원소가 중복 없이 모두 1:1로 대응하는 함수를 의미한다.

비선형 계획법은 변수 값 쌍으로 구성된 점의 분포가 선형으로 표현되지 못할 경우 사용되며, 이는 선형 분리가 불가능한 분포도 의미한다. 비선형 분포는 사상 개념으로도 대응할 수 없을 때 비선형 문제로 다룬다. 비선형 계획법의 실제 적용 예로는 신제품 출시에 따른 가격 책정 문제를 들 수 있다. 신제품의 가격(Price)을 결정하기 위해 수요량(Demands)을 예측할 경우, 수요량은 Price에 따라 증가 또는 감소할 수 있는 종속 변수이기 때문에 최종 목적 함수인 가격 결정은 신제품의 판매 이익과 원가에 의해 결정되며, 판매 이익 및 원가는 수요에 따라 변동될 수 있다.

결국 최종 목적 함수가 2차 함수가 되므로 선형 계획법으로 해결하기 어려운 상황이 발생하며, 이 경우 2차 함수의 최대 또는 최소값을 산출하기 위해 각 변수에 따른 편미분을 사용하여 조건을 만족하는 결과 값을 산출해야 한다.

볼록 계획 문제는 볼록(凸)함수와 오목(凹)함수로 점의 분포를 나타낼 수 있는 경우에 사용되며, 볼록 최적화 방법을 통해 해결된다. 볼록 계획의 예로는 도형 평면 안에 있는 점을 연결할 때 같은 도형 평면 상에 존재하는 경우를 들 수 있으며, 볼록함수는 돌출부가 하나인 함수로 정의된다. 볼록 집합은 집합에 존재하는 모든 점이 집합 내의 다른 점들과 연결될 수 있는 경우를 말하며, 최적 값이 하나만 존재한다는 특징이 있다. 위로 볼록할 경우 최대값이, 아래로 볼록할 경우 최소값이 최적값이 된다. 

볼록 최적화는 목적 함수가 볼록 함수일 때 사용 가능한 방법으로, 특정한 수학적 조건을 만족하는 해를 찾는 데 효과적이다. 이는 여러 분야에서 최적의 해결책을 찾는 데 도움을 주며, 특히 수치가 복잡하고 변화가 자주 발생하는 환경에서 유용하게 적용된다.

마지막으로, 분기 한정법은 선형 계획 문제와 볼록 계획 문제의 해결을 위한 강력한 방법론이다. 이 기법은 모든 후보해를 체계적으로 늘어 놓아 최적화할 수치의 상한과 하한을 추정한다. 그런 다음, 불필요한 값들을 제거하는 과정으로, 이산 최적화나 조합 최적화를 풀 때 주로 사용된다. 이를 통해 불확실성이 높은 문제 영역에서 보다 체계적이고 효율적인 문제 해결 방안을 제시할 수 있다.

결과적으로, 두 변수의 상관 관계와 그 해결 방법에 대한 이해는 인공지능과 데이터 분석의 핵심 요소로 작용한다. 다양한 상황에서 적용 가능한 여러 수학적 접근 방식을 익히고 활용함으로써, 복잡한 현상에 대한 효과적인 모델링과 예측이 가능해진다. 이는 결국 더 나은 결정을 내리고 효율적인 시스템을 설계하는 데 필수적인 요소가 된다.