장난감

CNN ( Convolution Neural Network )

합성곱을 사용한 신경망이다.

처리과정을 이미지로 확인해보자.

복잡해 보인다.

간략하게 설명을 하자면

Input으로 특정 이미지가 들어와서 Convolution Layer를 거쳐 Pooling Layer를 지난다. 

Convolution Layer, Pooling Layer를 Feature Map Cycle이라 생각 했다.

그 이유는 해당 Layer를 지나면 Feature를 탐색하기 때문인데.. 해당 과정에 대한 이해를 해보자.

Convolution Layer

Convolution = 합성 곱

뭐랑 뭐를 합성 곱 시키는가?

합성 곱을 하면 뭐가 되는가?

위의 질문에 대한 대답을 아래에 적을 건데.. 사실 다 이해를 못해서 나중에 추가적인 설명을 붙일 거다.

합성 곱은 Input Image 혹은 Pooling Layer를 거친 Data에 Filter(Weight)를 합성 곱을 시켜준다.

출처 : http://deeplearning.stanford.edu/wiki/index.php/Feature_extraction_using_convolution

하나의 Filter를 가지고 Image를 합성 곱 시켜주므로써 Feature를 찾아내는데 보통 Filter는 3*3, 4*4로 이루어진다.

( 물론 개발하는 사람의 마음대로 filter를 조절할 수 있지만 효과적인 filter는 3*3, 4*4라 알려져 있다. )

또한 하나의 Filter로는 하나의 Feature map밖에 나오지 않기에, Filter는 여러 개를 사용하여 여러 개의 Feature map을 만든다.

Stride라는 Hyper-Paramter가 존재하는데 Stride는 filter가 몇칸을 이동할지 결정해주는 paramter이다.

위의 이미지에서는 Stride가 1인 경우이고, Stride가 2라면 (0,0)을 시작으로 다음 칸은 (0,1)이 아닌 (0,2)에서 합성 곱을 진행하는 것이다.

Stride는 작을 수록 Feature map을 잘 만들 수 있을까 하는 의문이 든다. 한번 테스트 해봐야 할 것 같다.

Feature Map은 원본 이미지보다 크기가 작아지기 때문에 연산을 위해 원본 이미지의 크기에 맞춰 줘야한다.

원본 이미지 크기만큼 빈 공간을 0으로 채워주는데 이 과정을 Padding이라고 한다.

출처 : https://www.analyticsvidhya.com/blog/2016/04/deep-learning-computer-vision-introduction-convolution-neural-networks/

Pooling Layer

이 과정은 Feature를 강조하기 위해 만들어진 층인데 N*N 크기의 영역을 1*1 크기로 확 줄여버린다.

Pooling은 3가지 방법이 있는데 Max, Avg, Min 이 있다.

N*N 크기의 영역에서 가장 큰 값, 혹은 해당 영역의 평균 값, 가장 작은 값을 골라서 1*1 크기로 압축 시킨다.

출처 : https://stackoverflow.com/questions/44287965/trying-to-confirm-average-pooling-is-equal-to-dropping-high-frequency-fourier-co

위의 Layer가 Feature Map을 생성하는 과정이다.

Filter가 여러 개이므로 Feature Map도 여러 개가 나온다.

이제 여기서 Classification을 해야되는데, FC Layer를 이용한다.

( FC Layer(fully Connection Layer)는 Dense Layer라고 불리기도 한다. )

FC Layer(Dense Layer)를 거치면 최종 Output이 나오는데 이를 softmax 를 이용해 Classification 하면 된다.

트리. Tree

자료구조에서 트리는 나무를 거꾸로 표현한 것 처럼 생겼다고 해서 트리라고 이름이 지어졌다.

트리는 뿌리(root)인 노드를 Level 1로 지칭하며 시작하며 뿌리 노드를 기준으로

자식 노드를 연결시켜 가지처럼 뻗어나가는 구조이다.

트리는 여러가지 종류가 있는데 대표적으로 Binary Tree, Normal Tree가 있다.

여기서 Binary Tree는 탐색, 힙 등 광범위하게 사용된다.

배우기 전에 용어를 정리해보자.

Root, 뿌리.

뿌리(Root)는 트리의 최상위에 존재하는 노드이며 Level은 1로 고정이다.

위 Tree에서 시초가 되는 '2'노드가 Root, 뿌리 노드이다.

(위 그림에서 '2'노드가 두번 나오는데, 가장 상위에 있는게 뿌리 노드이다.)

Child, 자식

Child, 자식노드는 어떠한 노드에 종속되어 있는 노드로

뿌리 노드를 기준으로 자식노드는 '7', '5'노드이다.

Parant, 부모

Parant, 부모노드는 자기 자신 노드 아래에 자식 노드가 있다면

해당 노드는 부모 노드가 된다.

예를 들어 '9' 노드의 부모는 '5'이다.

* 같은 부모를 가진 노드의 집합을 형제 노드라고도 칭한다.

Degree, 차수

Degree, 차수는 해당 노드에 연결된 자식 노드의 개수를 뜻한다.

트리에서 가장 큰 차수가 트리의 차수가 된다.

Level(Depth), 깊이, 레벨

Level, 혹은 Depth은 트리의 깊이 혹은 레벨을 뜻 한다.

위 그림에서는 최대 4 Level 혹은 4 Depth을 가지고 있다. 

트리의 최상 지점부터 1Level, 1 Depth으로 시작한다.

Height, 높이

트리에서 최대 Level 혹은 Depth을 의미한다.

해당 트리는 4의 높이를 가진다.

Stack과 Queue는 자료구조를 공부 했다면 100% 이해를 하고 넘어가야한다.

스케줄링, 알고리즘 등 많은 곳에서 쓰이는데 일단 개념부터 살펴보자.

Stack과 Queue는 뭘까?

두 자료구조 모두 데이터가 쌓이는 방식, 혹은 구조를 뜻한다.

역시나 글로는 이해가 잘 안될 것 같아 아래에 각각에 대한 설명과 사진을 첨부 했다.

1. Stack, 스택

Stack. 채우다. 쌓다 라는 뜻을 가진 단어이다.

자료구조에서도 마찬가지로 데이터를 순차적으로 쌓아준다.

또한 데이터를 빼낼 때는 마지막에 들어온 데이터부터 내보낸다.

즉, 후입선출( 혹은 선입후출 )의 구조를 지니게 된다.

쌓는 과정을 push, 빼내는 과정을 pop이라고 한다.

단점을 살펴보자면 Low level(먼저 들어온 데이터)의 데이터를 가져가려고 하면 

위에 존재하는 High level(나중에 들어온 데이터)의 데이터를 다 빼야지 가져갈 수 있다.

또한 스택의 크기를 동적으로 변경하지 않는 한 Overflow( 데이터가 들어갈 공간이 모자른 현상 )이 일어날 수 있다.

2. Queue, 큐

앞에서 봤던 Stack은 출구와 입구가 같다면, Queue는 출구와 입구가 별도이다.

따라서 들어왔던 것은 입구로 나가지 못하므로 늦게 들어오면 늦게 들어올 수록 나가는 속도는 늦어진다.

즉, 선입선출( 혹은 후입후출 )의 구조를 가지게 된다.

데이터를 넣는 것을 Enqueue, 데이터를 제거하는 것을 Dequeue라고 한다. ( 책마다 다를 수 있다. )

단점을 찾아보자면

Queue는 Dequeue를 실행하면 데이터를 당겨와야한다.

1->2->3->4 순으로 데이터가 들어왔다고 하면 Queue의 상태는 아래와 같다.

rear [4]-[3]-[2]-[1] front

이 때 Dequeue를 실행한다면 아래와 같이 변경 된다.

rear [4]-[3]-[2]-[null] front

만약 재배치를 해주지 않는다면 Dequeue를 충분히 많이 실행 했을 시

Enqueue를 하면 Overflow가 나타나게 된다.

rear [4]-[null]-[null]-[null] front

위와 같은 Queue가 구성되면 rear쪽이 비어있지 않다고 판단하여 Overflow를 내뱉는다.

실제로는 3 size나 비어있는데도.

따라서 재배치가 필요하다.

위와 같은 queue를 선형 큐라고 하고, 이 단점을 보완한 것이 원형 큐, 환영 큐 라는 것이다.

남는 메모리 공간을 없애기 위해서 rear과 front를 가르키는 변수를 추가해서 활용도를 높이는 방식인데, 

단점이라면 10 size를 가진 원형 Queue는 실제로 11 size을 지녀야되서 1 size가 낭비된다. ( full 과 empty를 구분하기 위한 공간 )

1size는 mod연산을 하면서 남는 공간이라고 생각하면 된다.

큐가 꽉 차있는 것을 판별하려면 

(rear+1) % Queue_Size == front 를 이용하면 된다.

원형 큐에 대한 내용은 따로 포스팅 해야겠다.

여기 가면 설명이 잘 되있으므로 참고해도 좋을 듯 하다.

사진 출처 : 나무위키(큐)

정리를 하기 위해 포스팅을 한다.

Linked List에서는 크게 3가지 유형이 존재한다.

1.  Single

2. Double

3. Circle

첫 번째로 Single Linked List

n번 째 블럭이 n+1번 째 블럭을 찾을 수 있는 Link를 가지고 있는 Node의 집합체이다.

Single인 이유는 n+1번 째 블럭은 n 번 째 블럭을 찾을 수 있는 Link가 없기 때문이다.

네트워크로 따지면 단방향이라고 볼 수 있다.

두 번째로 Double Linked List

Signle과 다른 점은 n 번 째 블럭은 이웃한 블럭을 찾을 수 있는 Link를 지니고 있다.

네트워크로 따지면 양방향이다.

세 번째로 Circle Linked List

앞에서 본 Single, Double은 모두 Head와 Tail이 존재한다.(시작과 끝)

하지만 Circle Linked List는 Head와 Tail이 연결 되어있는 순환구조이다.

사진 출처 : https://ko.wikipedia.org/wiki/연결_리스트

젠킨스(Jenkins) ? 

이번에 동아리 선배랑 같이 프로젝트를 하면서 젠킨스라는 것을 사용하기로 했다.

젠킨스는 자동적으로 배포를 도와주는 툴이라고 설명이 되어있다. ( 젠킨스에 대한 설명이 적힌 링크 )

젠킨스는 Docker와 연관이 많은데 Docker에 대해서는 따로 정리를 할 예정이다. ( docker 모르면 해당 링크 참조 )

설치 OS는  ubuntu 64bit로 아마존 AWS를 사용하였다.

jenkins를 설치하려면 우선 docker가 설치되어야 한다.

따라서 docker를 먼저 설치하면 된다.

root 권한을 요청 할 수도, 요청하지 않을 수도 있다.

다음으로는 root가 아닌 다른 user에게 docker를 실행 할 수 있는 권한을 넘겨줘야 한다.

Boxing & UnBoxing

Primitive 자료형을 Wrapper 클래스로 변환시켜주는 것을 Boxing이라 한다.

그 반대를 Unboxing이라고 한다.

Primitive 자료형, Wrapper 클래스?

Primitive 자료형은 int, double, char 등 과 같은 우리가 변수의 자료형에 많이 사용하는 것이다.

Wrapper 클래스는 처음들어봤다. Integer, Boolean, Character .. 등등 있댄다. Object형식이다.

하튼 Wrapper 클래스가 Primitive 자료형의 시초라고 생각하면 된다.

동아리 친구에게 JUnit이라는 신 문물을 배웠다.

단위 테스트 Framwork인 JUnit은 전체적인 코드를 컴파일 하지 않고도 테스트를 해주는 고마운 녀석이다.

JUnit은 assert- 메소드를 이용해서 테스트를 해주는데 결과는 성공, 실패 두가지로만 나타내준다.

Eclipse에서JUnit 사용하기

어떤 사람은 JUnit이 import 되어있을지도 모르지만 일단 JAR 추가부터 해준다.

1. 프로젝트를 생성 한 뒤, 오른쪽 클릭을 눌러 Properties를 클릭한다.

2. JAVA BulidPath를 클릭한다.

위 사진을 보면 Add JARs.. 가 있는데 클릭하면 리스트에 JUnit이 존재한다. 그걸 추가해주면 된다.

다음은 개발자마다 JUnit Test 폴더를 만드는 방식이 다르니 편한 것을 선택하면 된다.

다음과 같이 프로젝트가 구성되어있다. Test폴더를 하나 더 생성하는데. Soruce folder로 만들어야 한다.

이때 src Soruce folder과 같은 level에 존재해야한다.

test Source Folder가 만들어졌다면 아래에 동일한 패키지를 작성해준다.

나는 sis라는 패키지이므로 똑같이 만들어주겠다.

자. 이제 80퍼 가까이 한 것 같다.

이제 Student.java의 Test파일을 만들어야하는데. Package Explorer에서 Student.java파일을 클릭하고 

상단의 툴바에     요런 버튼을 찾아서 화살표를 클릭하면 JUnit Test Case 가 뙄 하고 나온다.

과감히 클릭한다.

위와 같은 창이 뜨면 성공이다.

아. Source folder는 원래 저렇게 안나온다. sis/src가 기본 폴더로 설정 되어있는데 

우리는 sis/test에 만들어줄거라 sis/test로 바꿔준 뒤 Finish를 누르면 파일이 생성된다.

파일을 열면 저런 코드가 작성되있을 것이다. ( 스샷을 잘못 찍었네요. 원래 정상적이면 Class가 StudentTest라고 떠야합니다. )

일단 어노테이션부터 보자.

@Test는 아래 코드를 테스트 메서드로 정의하는 것이다.

@setup, @before, @after 등등 여러 어노테이션이 존재하는데 나중에 정리할거다.. 귀찮

하튼 테스트 메서드의 이름은 한글로 적어도 무방하다!

그리고 여러 테스트를 할 수 있는데 assert만 적고 이클립스의 Assist기능을 이용하면 여러 함수가 나오는 것을 볼 수있다.

필요한 것을 가져다 쓰면 된다.

JUnit을 실행하려면 해당 파일을 오른쪽 클릭 -> Run As에 보면 JUnit Test를 눌러 진행하면 된다.

성공적으로 테스트를 완료했다면 초록색으로 뜨고, 아니면 빨간색으로 뜬다.

항상 느끼는거지만 변수명이든 함수명이든 작명센스가 개똥이다.

조금이라도 나아지려고 Naming Convention을 알아봤다.

JAVA Naming Convention

1. Class    

클래스의 첫 글자는 대문자로 작성한다. 또한 클래스의 이름은 명사로 작성한다.

예를 들자면 Split, Convert, Event 등.

2. interface

인터페이스의 첫 글자는 대문자로 작성한다. 인터페이스의 이름은 형용사로 작성한다.

예를 들자면 Runnable.. 형용사는 잘 몰라서 하나밖에 생각 안난다.

3. method

메소드의 첫 단어는 소문자로 작성한다. 메소드의 이름은 동사로 작성한다.

print, setValue 등등..

4. variable

변수의 첫 단어는 소문자로 작성한다.

5. constant

상수는 전체를 대문자로 작성한다.

CamelCase

사실 카멜케이스는 별거 없다. 

여러 단어가 들어간 Name에는 두번 째 단어 첫 글자를 대문자로 표현한다.

중간에 대문자가 뽈록 튀어나와서 낙타의 혹을 닮았다고 카멜케이스란다.

여태 몰랐던 내용인데 알게되어서 적어본다.

String은 자료형이 아니라 객체라는 사실은 알고 있었을텐데

String만 예외적으로 new를 이용해 객체를 생성하지 않아도 된다한다.

문자열을 비교할 때 equals()함수를 쓰는 이유를 알아봤다.

결론만 말하자면 == 연산자로는 String객체에 저장된 문자열을 비교할 수 없기 때문이다.

한마디로 "str"이라는 문자열은 리터럴이라 주소를 가지고 메모리에 할당 되는데

new를 이용해 문자열을 저장하면 메모리에 할당되는 동시에 그 메모리에 문자열이 저장된다.

2번째 줄과 같이 단순 대입을 한다면 "str"의 주소를 가져오는 꼴이다.

따라서 str1, str2의 내용은 같아 보여도 ==연산자는 주소를 가지고 비교하기에 (이때 주소는 JVM에 할당된 영역이다.)

서로 다른 것으로 인지한다.

일단 sqlite3 라이브러리가 필요하다.

없다면 다운받아서 사용하도록.

사용하려면 아래와 같이 import를 시켜줘야한다.

import sqlite3

다음으로 연결을 시켜줘야하는데 db가 생성되있지 않다면 생성을 해주니까 걱정 안해도 된다.

conn_db = sqlite3.connect("~.db")

연결이 되었다면 Cursor을 생성해줘야하는데 

Cursor는 데이터베이스에 SQL문을 작성하도록 해주는 역할이라 생각하믄 된다.

cur = conn_db.cursor()

SQL문을 작성을 해서 보내면 됩니다! 이땐 execute함수를 사용한다.

cur.execute(SQL문)

SQL문을 작성한 결과를 보고 싶다면 fetchall함수로 볼 수 있다.

result = cur.fetchall()

전체적인 코드를 보면 아래와 같다.

import sqlite3

conn_db = sqlite3.connect("~.db")
cur = conn_db.cursor()
cur.execute(SQL문)
result = cur.fetchall()

개발할 때 사실상 저렇게 사용하지 않는다.

리소스를 아끼기 위해서 with문을 사용한다.

db에 connect를 하고 cursor로 접근한 것을 with문이 끝나면 리소스 정리를 통해 disconnect를 시켜주기 때문.

import sqlite3

conn_db = sqlite3.connect("~.db")

with conn_db:
    cur = conn_db.cursor()
    cur.execute(SQL문)
    result = cur.fetchall()