딥러닝 최신 동향

최신 동향 키워드

1. 학습 방법론 :

 1) 자기 지도학습

 - masked or sequential language modeling

 - masked visual token modeling

 2) 멀티 모델 학습

 - 시각, 언어, 음성의 복합 모델

 3) 어텐션 기반 모델

 4) 데이터 증강

 5) 메타 러닝

 - 처음보는 문제에 대해 빠르게 학습하는 법을 배우는 기법

 

2. 성능 지표

 1) 공정성과 편향성

 - 정의의 불분명성과 수치화의 어려움

 2) Xai (설명 가능한 머신러닝)

 3) AI 안정성

 - 아직 부족한 AI의 신뢰성 향상이 필요함

 

3. New Problem

 1) 필요 연산 자원의 증가

 2) 일반화

 - 입력 이미지의 작은 변화에도 민감하게 반응 하는 모델을 일반화 해야함 (사진의 색감 변경시 사람은 바로 인지하지만 모델은 인지하지 못함)

 etc..

 

제일 와닿는 말은 많은 연산량을 활용하는 일반적인 기법이 가장 효과적이다(Richard S. Sutton)라는 말이였다.