본문 바로가기

IT

 (44)
논문스터디 | R-CNN | 2021.10.25 # 슬라이딩 윈도우 방식 - 네모박스(윈도우)를 만들어서 왼쪽 상단에서부터 오른쪽 하단까지 이동하면서 오브젝트를 Detection하는 방식 윈도우를 크게 만들거나 줄이는 방법 윈도우 크기는 유지하고 이미지 크기를 조정하는 방법 ->관심있는 오브젝트가 윈도우 안에 들어오게 하는 방식 영역 추정 방식이 나타나지 않는 경우에 사용됨 수행시간이 길고, 검출 성능이 상대적으로 낮다. # Region proposal(영역 추정) 방식 대표적인 방법은 selective Search - 빠른 Detection - 해당 이미지에서 selective search 알고리즘을 적용하면 유사한 부분끼리 구분하여 Segmentation을 만든다. 1. 개별 세크먼트된 모든 부분들은 바운딩 박스로 만들어서 Region Propos..
논문스터디 | CarSNN | 2021.10.25 SNN : Spiking Neural Network AI 기술의 대표격이었던 심층신경망의 라이벌 생체 뉴런이 스파이크 신호를 이용하는 것을 모방 DNN : 입력층과 출력층 사이 여러 개의 은닉층 DNN : 전체를 학습하는 방식 SNN : 신경세포 각각에 대해서 학습 DNN에는 없는 특징 3가지 1) 신호의 강도를 빈도/타이밍 등으로 표현 : 소비 전력이 작고, 잡음에 강함 2) 시계열 데이터 분석에 우수해 인과관계 유추 가능 - 시간, 공간 모두 활용 3) 뉴런 간 서로의 동작 제어 가능(DNN : 직접 민주제 , SNN : 간접 민주제) STBP 학습 방법 STBP : 시공간 역전파 - ANN과 같은 계층별 공간데이터 흐름 외 시간데이터 흐름이 존재 - SD, TD 정보를 결합하여 SNN 특성 이해 L..
논문스터디 | GAN | 2021.10.25 흐릿한 현상이 줄어든 결과물을 얻을 수 있게한 논문 개요) 적대적인 과정 : 생성자, 판별자 생성자 : 가짜를 진짜처럼 잘 만들려고함 판별자 : 진짜/가짜를 잘 구별해내려고함 -> 판별자가 진짜와 가짜를 50대50으로 판단하게 되는 경지까지 배경) ML 은 지도학습, 비지도학습, 강화학습 3가지로 나뉜다. 지도학습 vs 비지도학습 차이 : 레이블 존재 차이 비지도학습 빨간색 class, 파란색 class Discriminative : 빨간색과 파란색을 나누는 최적의 선을 긋는다. -> 선을 잘 찾았더라도 빨간색의 모양이나 파란색의 모양을 알 수 없다. Generative : 빨간색, 파란색의 모양을 파악해서 빨간색과 파란색의 분포를 알아난다. 분포에서 샘플링을 한다는 것은 확률 분포의 식을 이용해서 샘플..
논문스터디 | ViLBERT | 2021.10.12 Image Captioning Video Captioning visual storytelling : 여러자의 이미지로 이야기 만들기 Object recognition : 이미지 내 객체 인식 visual QA : visual Question-Answering - 이미지와 야채를 자를 칼이 있나요가 같이 제시하면 AI System이 답을 한다. - 이미지풀과 텍스트를 제시하면 AI System이 텍스트에 해당되는 이미지 선택 각 Vision -> 인코더 -> CV(context Vector) 각 Word -> 인코더 -> CV(context Vector) 다른 곳에서 가져온 key, value를 넣어서 값 생성 후 softmax로 값 변환 BERT : 마스킹을 해서 다음 문장이 맞는지 아닌지 판단. - P..
논문스터디 | BERT2 | 2021.10.12 BERT 선택 2018년 10월에 나온 논문 B Bidirectional 양방향 E Encoder 인코더 R Representations from 표현 T Transformers 트랜스포머s Encoder? 자연어 처리를 할때 메신지 전달자, 메신지 수신자가 있음 전달자가 메시지를 부호화하고 메시지를 해독하는 것을 인코딩 Transformers? RNN -> seq2seq -> Attention -> Self Attention -> Multi-head Self Attention 1. RNN - DNN : 히든레이어가 중간에 있다. i) 각 레이어에 있는 노드들을 계산해준다 : feedforward propagation ii) Back propagation - CNN - RNN i) 같은 레이어가 반복적으..
논문리뷰 | GPT-1 | 1일차 Improving Language Understanding by Generative Pre-Training 요약 자연어 이해의 용도 Textual entailment : 텍스트 함의 질문 답변, semantic similarity assessment : 의미적 유사성 평가 문서 분류 등 레이블이 지정되지 않은 대량의 텍스트 데이터(거대한 텍스트 코퍼스, 영어: corpus, 복수형: corpora, 말뭉치)는 풍부하지만 특정 작업을 학습하기 위해 레이블이 지정된 데이터는 드물기 때문에 discriminatively하게(차별적으로) 훈련된 모델이 적절히 수행되기 어렵습니다. 우리는 레이블이 지정되지 않은 텍스트의 다양한 코퍼스에 대한 언어 모델의 GPT와 각 특정 작업에 대한 차별적 미세 조정(fine-t..
Python 연습하기 days = ["Mon", "Tue", "Thur", "Fri", "Sat"] emotion = ["happy", "sad","tired","angry"] num1 = [1,2,3] num2 = [4,5,6] num3 = [1,2,3,4,5,6,7,8,9,10,11] # common operation print("Mon" in days) # True print("Mon" not in days) # Flase print(days[3]) # Fri print(len(days)) # 5 print(days.count("Mon")) # 1 print(num1+num2) # [1, 2, 3, 4, 5, 6] print(num1*2) # [1, 2, 3, 1, 2, 3] # Mutable operaions : 값을..
프로그래머스 | 완주하지 못한 선수ㅣPython 문제 설명 전화번호부에 적힌 전화번호 중, 한 번호가 다른 번호의 접두어인 경우가 있는지 확인하려 합니다. 전화번호가 다음과 같을 경우, 구조대 전화번호는 영석이의 전화번호의 접두사입니다. 구조대 : 119 박준영 : 97 674 223 지영석 : 11 9552 4421 전화번호부에 적힌 전화번호를 담은 배열 phone_book 이 solution 함수의 매개변수로 주어질 때, 어떤 번호가 다른 번호의 접두어인 경우가 있으면 false를 그렇지 않으면 true를 return 하도록 solution 함수를 작성해주세요. 제한 사항 phone_book의 길이는 1 이상 1,000,000 이하입니다. 각 전화번호의 길이는 1 이상 20 이하입니다. 같은 전화번호가 중복해서 들어있지 않습니다. 입출력 예제 ph..

티스토리툴바