728x90 전체 글55 딥러닝 LSTM(Long Short Term Memory) Vanilla RNN 디그리데이션 문제 존재 . 역전파 시 웨이트 여러 번 리커런트해서 그래디언트가 연쇄적으로 곱해지는 연산때문에 기울기 소실 문제 단기 기억 LSTM은 RNN의 기울기 소실 문제 해결하고자 등장함. LSTM (Long short term memory) 의미 = 장기기억과 단기기억이 있다. 장기 의존성과 단기 의존성을 모두 기억할 수 있다는 의미 w 계산하기 밑에 표현한 부분만 w 존재. LSTM(Long Short-Term Memory)은 RNN의 한 종류로서, 시퀀스 데이터의 장기 의존성(Long-Term Dependency)을 더 잘 학습하기 위해 고안된 모델입니다. LSTM은 내부적으로 게이트(gate) 메커니즘을 사용하여 어떤 정보를 기억하고 어떤 정보를 잊을지를 조절하면서 시퀀.. 2023. 8. 30. 딥러닝 RNN RNN의 종류(입출력 개수에 따라) - one to one : 이미지 캡쳐닝 cv +nlp 이미지에 대한 자막 다는 것. 이미지 -> 시퀀스 of words - many to one : sentimental classification (sequence of words -> sentiment) 텍스트 리뷰 등 받아서 긍정 부정 출력 - many to many : machine translation (seq of words -> seq of words) 기계 번역 RNN이 잘 쓰이지 않은 이유 : 학습이 잘 안 됨, 문제: 기울기 소실&폭발 = Degradation Vanilla RNN은 기울기 문제 때문에 사용화는 안 됐음. 이후 LSTM으로 상용화 가능성 발견함 tanh 함수 시그모이드 함수의 변형 중 .. 2023. 8. 29. [프로그래머스] 파이썬 최댓값 만들기 ver. 2 일부 실패 다른 방법 시도 -> 또 다시 일부 실패어디를 수정해야 할 지 모르겠다. 2023. 8. 7. [논문 요약] 추천 시스템 기법 연구동향 분석 - 콘텐츠 기반 접근 방식 손지은.김성범.김현중.조성준(2015), '추천 시스템 기법 연구동향 분석' , 고려대학교 산업경영공학과 / 서울대학교 산업공학과 다양한 추천 시스템의 종류, 특징, 장단점 콘텐츠 기반 접근 방식 & 협력 필터링 위 방식의 단점 보완을 위한 하이브리드 추천 시스템 연관성 분석 바탕으로 연구된 추천 시스템 시간적 역동성을 고려한 추천 시스템 다양성 향상을 위한 추천 시스템 추천 시스템의 성능을 평가하는 기법 실제로 추천 시스템을 성공적으로 적용한 사례 추천 시스템을 구현할 수 있는 소프트웨어를 소개 판매자 입장에서 개개인의 선호도를 고려해 적절한 아이템을 추천해주고 이를 구매로 연결시키는 것은 이윤창출과 직결되므로 적절한 아이템 추천의 중요성이 대두되고 있다(Das et al., 2013). 가장 간단한 .. 2023. 8. 4. 이전 1 2 3 4 5 6 7 8 ··· 14 다음 728x90
