ML & DL/논문

    [논문리뷰] Sequence to Sequence Learning with Neural Networks

    본 게시물은 Sequence to Sequence Learning with Neural Networks를 요약 및 번역 정리한 내용입니다. 0. Abstract 어려운 학습 과제에도 좋은 성과를 내는 Deep Neural Networks(DNNs)는 대용량의 지도 학습 데이터셋에는 잘 적용되지만 시퀀스를 잇는(mapping) 학습에는 사용될 수 없다. 시퀀스 학습의 일반적인 end-to-end 접근법을 제안하고자 한다. 해당 접근법은 시퀀스 구조에 대해 최소한의 추정을 하는 방법이다. 입력 시퀀스를 고정된 차원의 벡터로 매핑하기 위한 다층의 Long Short-Term Memory (LSTM)을 사용한다. 벡터로부터 타겟 시퀀스를 디코딩하는 또 다른 다층의 LSTM을 사용한다. 논문에서 사용할 태스크는 ..

    [논문리뷰] 한국어 기술문서 분석을 위한 BERT 기반의 분류모델

    본 게시물은 2021.05.19. 에 작성되었으며, 블로그를 이전하며 현재 날짜로 등록되었습니다. 본 게시물은 한국어 기술문서 분석을 위한 BERT 기반의 분류모델 를 공부하며, 요약 및 번역 정리한 내용입니다. 0. ABSTRACT 텍스트마이닝 기법은 문서의 특징을 직접 추출해야 하는 한계점이 있다. 딥러닝 기반의 BERT모델을 활용해 문서의 특징을 자동 추출한다. 추출한 특징은 문서 분류에 활용한다. BERT를 활용한 국가 R&D 과제의 중분류 코드 예측 모델 생성 및 성능 평가 1. TASK 1) NTIS : 국가과학기술종합정보시스템 국가연구개발사업에 대한 정보를 관리 국가 R&D 과제 현황 관리, 효율적 정보 처리를 위해 분류정보를 제공 해당 분류정보는 연구자들의 주관적인 의견이 반영된다. 연구에..

    [논문리뷰] Research on Dynamic Political Sentiment Polarity Analysis of Specific Group Twitter Based on Deep Learning Method

    본 게시물은 2021.05.19. 에 작성되었으며, 블로그를 이전하며 현재 날짜로 등록되었습니다. 본 게시물은 Research on Dynamic Political Sentiment Polarity Analysis of Specific Group Twitter Based on Deep Learning Method를 공부하며, 요약 및 번역 정리한 내용입니다. 0. ABSTRACT 미국 정치인의 트윗에 대한 dynamic 정치 감성 극성 분석(다중 분류) 방법 제안 데이터 : 일정 기간, 특정 그룹에서 보낸 트위터 텍스트 비교 평가 : 20명의 미국 주지사, 상원 의원의 감성 극성 판단 정확도 80.66%, 직접 평가(사람) 성공률 75% 1. 관련 연구 감성 극성 분석은 전통적 머신러닝 알고리즘 및 신경..