본문 바로가기
728x90
반응형

LAB

생성모델(4) Score-based generative models 1. Overview [1] 데이터 공간 상에서 임의의 랜덤한 노이즈(데이터)를 생성한다. [2] 확률 밀도 함수의 기울기를 계산 후, 확률 값이 높아지는 방향으로 데이터를 업데이트한다. [3] 확률값이 높은 곳에 도달하면 샘플링된 데이터와 유사한 데이터를 생성한다. 2. Score-based generative models score란 확률 밀도 함수의 미분이다. 즉, 입력 데이터 x에 대한 미분이다. 입력 데이터와 score의 dimension이 동일하다. [1] 데이터의 분포를 모르지만 Score만 알면 데이터 생성이 가능하다. [2] Score를 데이터로부터 추정한다. (score matching, training) [3] 추정된 score를 바탕으로 새로운 데이터를 sampling한다. (lan.. 더보기
딥러닝(6) 실습: RNN image classification 코드 https://github.com/rickiepark/handson-ml/ GitHub - rickiepark/handson-ml: 도서 "핸즈온 머신러닝"의 예제와 연습문제를 담은 주피터 노트북입니다 도서 "핸즈온 머신러닝"의 예제와 연습문제를 담은 주피터 노트북입니다. Contribute to rickiepark/handson-ml development by creating an account on GitHub. github.com 1. RNN image classification MNIST 숫자 이미지 데이터셋을 분류하는 분류기를 구현할 것이다. 사실 이미지 데이터 학습은 이미지의 공간(spatial) 구조를 활용하는 CNN 모델이 더 적합하다. 그러나 인접한 영역의 픽셀은 서로 연관되어 있으므로 .. 더보기
딥러닝(5) 실습: LSTM 코드 1. RNN (1) RNN의 구조 Sequence data란 현재 state가 그 다음 state에 영향을 미치는 데이터이다. 아래 그림과 같이, x라는 입력을 넣으면 RNN에서 출력으로 나오는 state가 다시 RNN의 입력이 된다. 또한 각각 RNN 셀에서 y값을 뽑아낼 수가 있다. RNN을 계산할 때 state를 먼저 계산한 후 y를 구한다. state를 계산할 때 중요한 것은 tiem step 이전의 state가 입력으로 사용된다는 것이다. 즉 입력값은 2개로 [1] x, [2] 이전 RNN 셀에서의 state이다. 또한 RNN의 셀은 여러 개지만, 위의 그림처럼 구조를 표현하는 이유는 셀들마다 동일한 fW를 사용하기 때문이다. (2) Vanilla RNN RNN의 가장 기본적인 형태다. 시퀀스 .. 더보기
딥러닝(4) ANN, DNN, CNN, RNN 개념과 차이 1. 인공지능, 머신러닝, 딥러닝 (1) 인공지능 : 인간의 지능을 기계 등에 인공적으로 구현한 것 (2) 머신러닝 : 컴퓨터가 학습할 수 있도록 하는 알고리즘과 기술을 개발하는 것 (3) 딥러닝 : 여러 비선형 변환기법의 조합을 통해 높은 수준의 추상화 즉 다량의 복잡한 자료들에서 핵심적인 내용만 추려해는 작업을 시도하는 기계학습 알고리즘 2. ANN, DNN, CNN, RNN (1) ANN Artificial Neural Network의 약자로, 인공 신경망을 의미한다. 사람의 신경망 구조 및 원리는 모방하여 만든 기게학습 알고리즘이다. 인간의 뇌에서 뉴런들이 어떤 신호나 자극을 받고, 그 자극이 일정 임계값(threshold)을 넘어서면 결과 신호를 전달한다. ANN은 이와 같은 과정으로 작동한다... 더보기
제어 이론(10) 관측기[Observer] 1. observer 외부의 output(상태변수) 1개만 가지고, 나머지 state를 모두 추정하는 것. 상태 피드백 제어를 하기 위해선 모든 state에 대한 정보가 필요하다. 일부 state를 구할 수 없는 경우, 우리는 Estimate(추정)을 해야한다. Observer는 이를 도와준다. Observility(observer가 가능한 조건)를 만족한다면, observer를 사용할 수 있다. 2. Observility full rank 상태가 되어야 한다. 3. observer의 block diagram (1) 제일 위 블록 : 실제 시스템, 입력 u에 따른 실제 시스템의 거동 (2) 그 아래 블록 : extimate(추정)한 것, 추정된 시스템의 거동 우리가 피드백 받아야 하는 것은 추정된 시스템.. 더보기
지능제어(1) Introduction 1. Fuzzy theorem 지금까지의 집합(crisp set)은 어느 원소가 집합에 속하는지 아닌지에 대해 확실히 알 수 있다. 그러나 일상에선, 많은 집합들은 구성 요소의 기준이 명확하지 않다. 예를 들어 방 안 온도에 대해 생각해보자. 22도일 때 시원하다고 한다면, 22.1도는 시원하지 않은 것인가? 22도일 때는 시원함의 정도가 10, 26도일 때는 시원함의 정도가 5와 같은 느낌으로 정도를 표현할 수 있다면? 좀 더 납득 가는 결과를 얻을 것이다. 퍼지 집합이란 어떤 원소가 그 집합에 속한 정도까지 나타내는 것을 말한다. 퍼지 이론은 애매모호한 인간의 언어를 컴퓨터 언어로 표현하고자 한 이론이다. (1) Crisp set and Fuzzy set (2) Membership Function 퍼.. 더보기
지능제어(2) 임시 1. Review 퍼지 시스템이란? 입력과 출력이 있는 함수. (1) 퍼지는 '학습'에 이용된다. -> parameter를 업데이트함으로써 이루어진다. (2) 퍼지를 '예측'에 이용할 수 있다. -> 함수를 안다는 것은, 예측을 한다는 것. Data를 가지고 퍼지를 만든다. 이걸 어떻게 구현할 수 있을까. 이것들에 대해 고민해보자. data들이 있다. 이를 가지고 함수를 만들어, 이 함수를 또다른 상황에 적용하여 '의도'에 맞는 결론을 도출하는 것이다. 2. Fuzzy Relations and the Extension Principle 퍼지 관계(Fuzzy relation)란, 수학에서 통상적으로 사용하는 '관계'라는 개념을 퍼지화한 것이다. 예를 들어 'A와 B가 사이가 좋다' 혹은 'A가 B보다 소극.. 더보기
지능제어(2-1) Homework code1 - Truck Backer-Upper Control 1. 문제 Backing up a truck to a loading dock is a nonlinear control problem. Using conventional control approach. We can first develop a mathematical model of the system and then design a controller based on nonlinear control theory. (1) The simulated truck and loading zone are shown in Fig. 12.4. The truck position is determined by three state variables 𝜙, x and y, where 𝜙 is the angle of the tru.. 더보기
728x90
반응형

티스토리툴바