-
TIL
Conv1D, Conv2D, Conv3D 차이
말 그대로다. 1차원 배열 데이터에는 Conv1D를, 2차원 배열 데이터에는 Conv2D를 사용한다. 아직까지 Conv3D를 사용해 본 적은 없지만 마찬가지로 3차원 배열 데이터에 사용한다. 즉, Conv1D, Conv2D, Conv3D 차이는 입력 데이터의 차원이다. 그런데 여기서 끝나면 의문이 생긴다. 코드를 보자. model = tf.keras.models.Sequential([ # Note the input shape is the desired size of the image 150x150 with 3 bytes color tf.keras.layers.Conv2D(64, (3,3), activation='relu', input_shape=(150, 150, 3)), tf.keras.layers.M..
-
TIL
sigmoid보다 tanh를 쓰는 이유
1. sigmoid보다 tanh의 기울기가 더 크기 때문이다. 기울기가 더 크면 경사 하강법을 할때 더 큰 step으로 W와 b를 업데이트할 수 있으므로 더 빨리 cost를 0으로 만들 수 있다. cost는 0에 가까울수록 성능이 좋으므로 일반적으로 sigmoid보다 tanh가 성능이 더 좋은 것이다. 2. 기울기 편향을 피할 수 있다. 그래프를 보면 sigmoid는 (0,1)의 범위를 가지고 있고, tanh는 (-1,1)의 범위를 가진다. 모든 입력 벡터가 양수값을 가지고 있을때, 양의 값만을 가지는 sigmoid는 역전파를 할 때 모든 가중치가 같은 방향으로 움직이게 된다. 모두 증가하든지, 모두 감소하든지 말이다. 즉, 이동 방향이 편향될 수 있다는 단점이 있다. 하지만 tanh는 (-1,1) 범위..
-
Scikit-learn
LightGBM 정리
개념 LightGBM은 기존 GBDT (Gradient Boosting Decision Tree)의 한계를 극복하기 위해 만들어진 모델로, 같은 accuracy를 유지하면서 계산 속도는 더 빠르고 메모리 사용량은 더 적은 GBDT이다. GBDT (Gradient Boosting Decision Tree)란? GBDT에서 gradient는 손실 함수의 그래디언트(gradient)가 아니라 예측값과 실제 타깃값의 잔차(residual)를 의미 GBDT는 손실 함수를 최소화하는 모델을 만들기 위해 이러한 잔차를 줄이는 방향으로 모델을 학습 각 트리는 이전 트리가 만든 잔차에 대해 학습하며, 잔차에 대한 예측값의 그래디언트를 기반으로 합니다. cf) boosting은 약한 학습기(분류기/예측기)를 여러 개 연결..
-
프로젝트
파이썬(Python)으로 만든 게임 - Catch Turtle
이라는 수업에서 한 개인 프로젝트이다. 수업명과는 달리 데이터 분석과 관련된 내용은 전혀 배우지 않았고 파이썬 수업이라 해도 과언이 아니었다(지금은 팀티칭으로 달라졌다고 들었다.) 프로젝트도 게임을 기획하고 파이썬으로 개발하는 것이었다. 게임에 대해 간단히 설명하자면, Catch Turtle, 말 그대로 거북이를 잡는 게임이다. 거북이는 오른쪽(200,0), 왼쪽(-200,0), 위쪽(0,200), 아래쪽(0,-200) 중에 랜덤으로 나타난다. 그러면 키보드 방향키를 이용하여 거북이를 잡아야 한다. 거북이가 나타나는 방향과 키보드 키의 방향이 일치하면 1점을 얻는다. 제한 시간은 20초이고, 게임의 재미를 더하기 위해 거북이가 나타나는 속도는 0.1초에서 1초 사이 랜덤으로 정했다. import turt..
-
프로젝트
엔트리(ENTRY)로 만든 게임 - 미로 게임
이 게임은 라는 수업에서 진행한 팀 프로젝트이다. 코딩 교육의 중요성이 커지면서 내가 입학한 이후로 교양필수가 되어버린 수업이다. 이때까지는 내가 코딩을 하게 될 줄 몰랐지(^^)... 프로젝트에 대해 간단히 설명하자면, 피지컬 컴퓨팅 프로젝트였다. 피지컬 컴퓨팅이란 디지털 기술 및 장비를 이용하여 사용자로부터 물리적인(physical) 방식으로 정보를 입력 받아[Sensors] 처리한 결과를 물리적 방식[Actuators]으로 출력하는 컴퓨팅을 의미한다. 뭔 소린지 잘 모르겠으니 내 프로젝트를 예를 들어 설명해보겠다. 노트북에서 엔트리로 코딩을 하고 이를 센서보드와 같은 피지컬 컴퓨팅 도구와 연결한다. 센서 보드에는 소리 센서와 슬라이더 등이 있는데, 소리 센서에 바람을 불 수도 있고 슬라이더를 좌우로..
