njcin

뉴스 요약:누가: MongoDB 리서치 팀이언제: 현지 시각 2025년 11월 26일 (한국 시각 27~28일 화제)무엇을: 파라미터 수가 단 2,300만 개(23M)에 불과한 초경량 임베딩 모델 'LEAF'를 오픈소스로 공개했습니다.어떻게: '지식 증류(Knowledge Distillation)' 기법을 활용하여, 크기는 획기적으로 줄이면서도 OpenAI의 거대 모델(text-embedding-3-large) 대비 검색 성능의 97%를 달성했습니다.왜: 고가의 GPU 없이 일반 CPU 환경에서도 고성능 검색 증강 생성(RAG) 시스템을 구축하기 위함입니다.업계 반응 (Hacker News & GeekNews):"드디어 로컬(Local)에서 RAG를 제대로 돌릴 수 있는 시대가 왔다.""임베딩 비용 때문..

인공지능 2025. 11. 28. 09:49

안녕하세요, njcin입니다. 매일 아침 AI 공부를 하면서 알게 된 따끈따끈한 최신 트렌드를 정리해 공유합니다. 단순히 뉴스를 보는 것을 넘어, 우리 업무(개발, 마케팅)에 어떻게 적용할 수 있을지 고민해 보았습니다.1. "채팅"을 넘어 "행동"으로: 'AI 에이전트' 시대 본격화핵심 내용: AI가 단순히 질문에 답하는 것을 넘어, 스스로 계획을 세우고 도구를 사용해 업무를 완결하는 '에이전트(Agent)'로 진화하고 있습니다. 11월 들어 기업들의 AI 도입이 '챗봇'에서 '자율 에이전트(Autonomous Agent)'로 급격히 이동하는 추세입니다.업무 인사이트:(마케팅) "SNS 문구 써줘"가 아니라, "이번 주 트렌드 분석해서 인스타 게시물 3개 기획하고 초안 잡아서 보고해"까지 위임 가능해집니..

인공지능 2025. 11. 27. 10:41

초기의 신경망퍼셉트론은 맥컬록-피츠 모델을 기반으로 하는 학습 기계로서, 헵의 법칙을 적용하여 출력값에 따라 가중치를 플러스와 마이너스로 변동시키며 업데이트를 진행한다. 가중치 업데이트 과정에서는 출력값 𝑤𝜑(𝑥)이 긍정적인 예라면 가중치를 +로 조정하고, 부정적인 예라면 –로 조정하여 학습률(learning rate) 𝜂를 사용하여 업데이트를 수행한다. 단순 퍼셉트론은 '퍼셉트론 수렴 정리'(perceptron convergence theorem)를 기반으로 하여, 긍정적인 예와 부정적인 예의 학습 데이터를 선형적으로 분리할 수 있다면 반드시 유한 횟수를 통해 평면 분리 상태에 도달할 수 있다는 개념을 갖고 있다. 하지만 데이터가 선형적으로 분리되지 않는 경우, 퍼셉트론 학습을 적용할 수 없다는..

인공지능 2025. 1. 25. 13:34

신경망이란 인간 두뇌의 생물학적 뉴런의 작용을 모방한 모델로, 이 구조는 인간의 지능적인 처리 방식과 유사한 원리로 작동한다. 신경망은 인간 두뇌의 병렬성(parallelism)을 모델링하여, 뉴런들로부터의 입력을 특정한 함수 과정을 통해 출력하게 되며, 이러한 인공지능 모델은 "인공신경망"(Artificial Neural Networks)이라고도 불린다. 이러한 신경망은 문자 인식, 음성 인식, 영상 인식, 자연어 처리 등의 다양한 분야에 이용되고 있다. 신경망의 발상은 인공지능을 기호주의와 연결주의로 나누었을 때, 신경망이 연결주의의 대표적인 모델로 자리 잡고 있다는 점에 있다. 인간 두뇌에 있는 뉴런의 연결을 모방하며, 인간의 지능이 뉴런들 사이의 연결로부터 시작된다고 가정하는 이 발상이 바로 신경..

인공지능 2025. 1. 23. 21:17

효율적인 탐색 방법은 깊이 우선 탐색과 너비 우선 탐색을 통해 탐색할 노드의 순서를 결정하는 방식으로 이루어진다. 이러한 탐색 방법을 고려하여 처리 시간을 단축하는 것은 매우 중요하다. 여기서 비용에 따른 탐색 방법은 사전 지식이나 경험, 즉 휴리스틱을 사용하여 처리 시간을 줄이는 접근 방식을 의미한다. 비용의 종류에는 초기 상태에서 상태 𝑠의 최적 경로 이동에 드는 비용의 총합을 𝑔(𝑠)으로 정의하고, 상태 𝑠에서 목표하는 최적 경로 이동에 드는 비용의 총합은 h(𝑠)로 나타낸다. 나아가 상태 𝑠를 거치는 초기 상태에 대한 최적 경로 이동에 드는 비용의 총합은 다음과 같은 식으로 표현된다: 𝑓(𝑠) = 𝑔(𝑠) + h(𝑠). 최적 탐색은 𝑔(𝑠)의 오픈 리스트에 있는 노드 탐색 ..

인공지능 2025. 1. 21. 22:42

트리 구조와 이진 탐색 트리는 데이터 구조 및 알고리즘 설계에서 중요한 요소로 자리잡고 있다. 트리 구조는 정점 간의 위계적 관계를 표현할 수 있는 자료 구조로서, 시작점으로부터 다양한 경로를 통해 여러 가지 상태를 선택하며 탐색할 수 있다. 이진 탐색 트리는 정렬된 데이터를 기반으로 빠르고 효율적으로 검색할 수 있는 자료구조로, 데이터 저장 및 검색의 효율성을 높이는 데 중점을 둔다.탐색 알고리즘으로는 너비 우선 탐색(Breath First Search, BFS), 깊이 우선 탐색(Depth First Search, DFS), 그리고 다양한 응용을 가진 에이스타(A*) 알고리즘 및 동적 계획법 등이 있다. 너비 우선 탐색은 루트 노드와 연결된 모든 노드를 먼저 탐색한 후, 연결된 다음 깊이의 모든 노드..

인공지능 2025. 1. 20. 22:56

그래프는 점과 선을 연결하여 구성된 구조로, 점을 꼭지점(Vertex), 정점(Vertex), 또는 노드(Node)라 하며, 선을 변(Edge) 또는 간선(Edge)라 부른다. 그래프에는 여러 가지 유형이 있으며, 각각의 특성과 용도가 존재한다.연결 그래프는 모든 정점 사이가 연결되어 있는 그래프로, 모든 정점의 경로가 존재하는 것이 특징이다. 반면, 고립 정점은 어떤 정점과도 연결되지 않은 정점을 말한다. 동형 그래프의 경우, 정점들이 어떻게 연결되어 있는지가 중요하기 때문에 정점의 위치가 그래프의 본질적인 차이를 만들지 않는다. 즉, 정점을 이동시키더라도 본질적으로 같은 그래프가 될 수 있다.복잡한 그래프에서는 평행 변(Parallel Edge)이 포함될 수 있으며, 이는 정점 두 개가 두 개 이상의..

인공지능 2025. 1. 20. 22:56

최소 회귀법은 특이값에 취약하지만, 이를 보완하기 위해 가중치를 변화시켜 유연성을 높이는 방법이 있다. 대표적인 기법으로는 LOWESS(Locally Weighted Scatterplot Smoothing)와 L2, L1 정규화가 있다.1. 최소 제곱법 수정 최소 제곱법은 실제 답과 결과 값의 오차 제곱의 합이 최소가 되도록 해를 구하는 방법이다. 알고 싶은 값이 𝑦𝑖이고, 예측 방정식이 𝑦 = 𝛽0 + 𝛽1𝑋로 설정된 경우, 오차 제곱의 합은 일반적으로 𝑖=1부터 𝑛까지 (𝑦𝑖 - (𝛽0 + 𝛽1𝑋))^2과 같은 형태가 된다. 여기서 𝛽0과 𝛽1을 편미분하여 0이 되도록 하면, 그래프 상에서 오차의 제곱이 가장 작은 함수를 얻을 수 있다.최소 제곱법은 데이터에 특이값이 포함될..

인공지능 2025. 1. 19. 22:24