전체 글 41

2. k-Nearest Neighbors (KNN 지도학습)

1. 학습 방식에 따른 분류모델 기반 학습 (Eager Learning)훈련 단계에서 데이터를 사용하여 수학적 모델을 구축함(학습데이터들을 통해 파라미터 형성).예측 시에는 미리 만들어진 모델만 사용하여 결과를 도출함.사례 기반 학습 (Lazy Learning)훈련 단계에서는 데이터를 메모리에 저장만 함.예측 시점에 새로운 데이터와 기존 데이터를 일일이 비교함.k-최근접 이웃(k-NN)이 대표적임.2. k-최근접 이웃 (k-NN) 알고리즘가장 가까운 $k$개의 이웃을 찾아 값을 결정함.분류: 이웃 중 빈도수가 높은 클래스로 선택함.회귀: 이웃들 값의 평균을 계산함.주요 하이퍼파라미터:n_neighbors $k$ 값: 가장 가까운 이웃을 몇 개까지 볼 것인가작은 k : overfitting(k=1 일 때 ..

1. Supervised Learning Basics

지도 학습(Supervised Learning) 핵심 정리1. 지도 학습의 정의지도 학습은 정답(Label)이 포함된 훈련 데이터를 사용하여 입력값($x$)과 출력값($y$) 사이의 관계를 나타내는 함수를 찾는 과정목표: 학습된 모델을 통해 본 적 없는 새로운 데이터에 대한 결과를 정확히 예측하는 것 (일반화, Generalization)데이터 구성: 각 데이터 포인트는 여러 개의 특성(Feature)과 하나의 레이블(Label/Target)로 구성됨.2. 기호의 의미: $y$ vs $\hat{y}$기호의미 및 역할$y$ (Actual)실제 정답 (Label, Ground Truth). 데이터셋에 이미 포함되어 있는 측정치.$\hat{y}$ (Predicted)모델의 예측값. 학습된 모델이 입력값($x$..

2. Modeling of Dynamic Systems

동적시스템 모델링에서 기계적 모델링( translational, rotational)과 전기적 모델링(R,L,C)에 대해 다뤘다. 기계적 모델링(Translational Motion) 기계적 모델링(Rotational Motion) 동적 시스템 모델링 하는데에 있어서 항상 부호가 헷갈려서 하나의 소자에 대해관성력합 + 그 소자에 연결돼있는 소자계수*(내변위-상대변위) = 외력이런식으로 통일해서 써보기로함... 좀 더 공부해놔야하는 부분들인듯

ch1. Introduction to Control Systems

제어공학이 무엇을 배우는지 정도에 대해서만 다뤘음. Feedback의 효과Stability ⬆️ , bandwidth ⬆️ , overall gain ⬇️ , sensitivity ⬇️ (bandwidth와 gain은 반비례관계) Overall gain 구하기 LTI(Linear Time Invariant) system Stationary(Time Invariant)-시간 t는 '정의역(Domain)'일 뿐, 시스템의 '성질(Parameter)'을 결정하는 함수 안에는 직접 등장하지 않는다 LInearity-중첩의 원리가 적용됨. LTI 식 형태x(t)=Ax(t)+Bu(t) (A,B constant -> stationary, 1차식 형태 -> linearity)

Deriving Gamma Distribution

포아송 과정에서 감마분포 유도하기감마분포의 이해를 높이기 위해 글을 정리한다. 감마분포 자체만 놓고 이해하려고 하면 직관성이 너무 떨어지기에 지수분포부터 시작해서 포아송분포와의 관계를 먼저 명확히 한 다음, 이 관계식을 미분함으로써 감마분포가 자연스럽게 도출되는 과정을 보일 것이다.특정한 대기 시스템(병원 응급실)을 예시로 들어서, 각 분포의 RV와 parameter가 의미하는 바를 명확히 하고, 수식으로도 엄밀하게 증명한다.1. 예시 시스템: 병원 응급실상황 설정응급실에 환자가 평균 시간당 λ = 3명씩 무작위로 도착한다. 이것이 포아송 과정(Poisson Process)이다.포아송 과정의 특성사건(환자 도착)은 독립적으로 발생한다평균 발생률 λ는 시간에 따라 일정하다시간축: 0────●─────●─..

11.8 Fourier Cosine&Sine Transform

1. Introduction일반적인 푸리에 변환은 함수가 전체 실수 구간 \( (-\infty, \infty) \)에서 정의되어야 한다. 하지만 실제 문제에서는 반무한 구간 \( [0, \infty) \)에서만 정의된 함수를 다루는 경우가 많다.푸리에 코사인 변환(Fourier Cosine Transform)과 푸리에 사인 변환(Fourier Sine Transform)은 반무한 구간에서 정의된 함수에 대한 푸리에 변환이다. 이들은 경계값 문제, 특히 열방정식과 파동방정식의 풀이에서 핵심적인 역할을 한다.2. Fourier Cosine Transform2.1 DefinitionFourier Cosine Transform: $$\mathcal{F}_c\{f(x)\} = F_c(\omega) = \sqrt{..

11.7 Fourier Integral

1. What is Fourier Integral푸리에 급수(Fourier Series)는 주기함수를 삼각함수의 급수로 표현하는 방법이다. 하지만 실제로 많은 함수들은 주기적이지 않다. 푸리에 적분(Fourier Integral)은 비주기 함수를 연속적인 주파수 성분들의 적분으로 표현하는 방법이다.푸리에 급수에서 주기 \( L \to \infty \)로 보내면, 이산적인 주파수들이 연속적인 주파수 스펙트럼이 되고, 급수가 적분으로 변환된다.2. Fourier Integral Theorem정리: 함수 \( f(x) \)가 다음 조건을 만족하면,\( f(x) \)가 구간별로 연속이고 구간별로 미분가능\( \displaystyle \int_{-\infty}^{\infty} |f(x)| \, dx 다음이 성립한..

11.6 Orthogonal series and generalized Fourier series

직교급수와 일반화된 푸리에 급수1. 직교급수 (Orthogonal Series)구간 \([a, b]\)에서 가중함수 \(r(x)\)에 대해 직교하는 함수들 \(y_0, y_1, y_2, \ldots\)가 있을 때, 함수 \(f(x)\)를 다음과 같이 전개할 수 있다:\[f(x) = \sum_{m=0}^{\infty} a_m y_m(x) = a_0 y_0(x) + a_1 y_1(x) + a_2 y_2(x) + \cdots\]이를 직교급수(orthogonal series), 직교전개(orthogonal expansion), 또는 일반화된 푸리에 급수(generalized Fourier series)라고 한다.만약 \(y_m\)이 Sturm-Liouville 문제의 고유함수라면, 이를 고유함수 전개(eigen..

11.5 Sturm-Liouville Problems and Orthogonal Functions

1. Sturm-Liouville 문제란?Sturm-Liouville 문제는 다음 형태의 2계 미분방정식과 경계조건으로 이루어진 고유값 문제다:표준형:\[\frac{d}{dx}\left[p(x)\frac{dy}{dx}\right] + [q(x) + \lambda w(x)]y = 0\]여기서:\(p(x) > 0\), \(w(x) > 0\) (가중함수, weight function)\(q(x)\)는 주어진 함수\(\lambda\)는 고유값(eigenvalue)\(y(x)\)는 고유함수(eigenfunction)경계조건구간 \([a, b]\)에서 다음과 같은 경계조건이 주어진다:Mixed: \(\alpha_1 y(a) + \alpha_2 y'(a) = 0\), \(\beta_1 y(b) + \beta_2 y'..

11.4 Approximation by Trigonometric Polynomials

삼각함수 다항식(Trigonometric Polynomial) 삼각함수 다항식N차 삼각함수 다항식은 다음과 같은 형태의 함수:$$F_N(x) = a_0 + \sum_{n=1}^{N}(a_n \cos(nx) + b_n \sin(nx))$$풀어서 쓰면:$$F_N(x) = a_0 + a_1\cos(x) + b_1\sin(x) + a_2\cos(2x) + b_2\sin(2x) + \cdots + a_N\cos(Nx) + b_N\sin(Nx)$$일반 다항식이 \(1, x, x^2, x^3, \ldots\)를 기저로 사용한다면, 삼각함수 다항식은 \(1, \cos(x), \sin(x), \cos(2x), \sin(2x), \ldots\)를 기저로 사용한다.왜 삼각함수 다항식으로 쓰는가?주어진 함수 \(f(x)\)를..