[STUDY]/[노트] 3

신경망에 대해서 공부하다가 든 아이디어 정리

LLM과 머신러닝/딥러닝의 결합 아이디어 정리1. 아이디어 시작: LLM을 활용한 머신러닝 최적화머신러닝/딥러닝 모델은 정확도를 100%로 만들 수 없지만, 최대한 높은 성능을 내도록 조정하는 것이 목표.기존 모델은 학습 후 결과만 제공하지만, 뉴런에서 어떤 일이 일어났는지(추론 과정)를 설명해주지 않음.→ 뉴런 단위에서 일어나는 계산 과정을 로그화하여 LLM에게 전달하면사람이 이해할 수 있도록 설명 가능문제 발생 시, 사람이 직접 개입하지 않아도 LLM이 학습을 보정하도록 유도 가능예를 들어, 잘못된 예측이 발생하면 LLM이 오류 원인을 분석하고 학습 방법을 조정하는 방식을 제안할 수 있음.2. 기존 접근의 문제점 및 한계뉴런 로그 데이터가 너무 방대해질 가능성모든 뉴런에서 발생하는 정보를 기록하면 데..

[STUDY]/[노트] 2025.02.25

요즘 llm 관련 공부할 것 끼적이기

정리해야함1. 요즘 핫한 llm 논문들 분석하기 -> 딥식이와 s1 (https://arxiv.org/pdf/2501.19393)2. s1 깃허브 https://github.com/simplescaling/s1 GitHub - simplescaling/s1: s1: Simple test-time scalings1: Simple test-time scaling. Contribute to simplescaling/s1 development by creating an account on GitHub.github.com3. 킹갓 일민이 준 링크 자세히 확인하기 : https://github.com/SafeAILab/EAGLE GitHub - SafeAILab/EAGLE: Official Implementatio..

[STUDY]/[노트] 2025.02.10