Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
Tags
- merge
- conflict
- mysql
- 교차 엔트로피
- 선형 모형
- 코딩공부
- programmers
- HTML
- CSS
- 버전충돌
- L2정규화
- 깃헙협업
- coding
- elastic net
- PYTHON
- 클라우드컴퓨팅
- github
- early stopping
- 편향-분산 교환
- hackerrank
- Git
- 온라인협업
- L1정규화
- RLIKE
- branch
- window function
- AWS
- sql
- leetcode
- full request
Archives
- Today
- Total
목록L2정규화 (1)
Im between cherry
정규화, 노름, L1정규화, L2정규화, Elastic net, Early Stopping
정규화 - 일반화 오차를 줄이기 위한 기계학습의 모형이나 알고리즘의 수정 -- 모형의 파라미터에 제약을 가한다 -- 여러 개의 모형을 학습시킨다 -- 여러가지 과제에 학습시킨다 노름(Norm) - 길이 또는 크기를 일반화한 개념 - Lp 노름 L1 정규화 - 손실함수에 파라미터의 L1 노름을 추가: 가중치(w)를 최대한 작게, 손실 함수도 작게. - LASSO(통계 회귀분석에서 불리는 용어) - 가중치를 0으로 만드는 경향이 강함: 변수선택(fearue selection) - 중요하지 않은 변수는 날려버린다. 손실함수가 0이 됨. L2정규화 - 손실함수에 파라미터의 L2 노름을 추가: L1 정규화랑 큰 차이는 없지만, 이건 제곱을 하니까 계수를 작게하려는 경향이 있다. - Ridge 회귀분석(통계 회귀분..
데이터분석/텍스트 데이터 분석
2020. 11. 29. 00:54