Tag: llm
All the articles with the tag "llm".
- LLM Systems
LLM은 어떻게 채점하나: 평가 방법 11가지를 네 계열로 정리했다
정답을 맞혔는데 0점이 나오는 순간부터 LLM 평가는 갈라지기 시작한다. BLEU·ROUGE·BERTScore부터 LLM 판정자, 배심원단, 에이전트 경로 평가와 안전성 게이트까지 11가지 방법을 네 계열로 묶고, 각각 언제 쓰는지와 어디서 넘어지는지를 정리했다.
- Financial AI
금융 AI에서의 에이전틱 엔지니어링
AI가 틀릴 수 있음을 전제로 자동화하는 것. 금융 AI에서 에이전틱 엔지니어링이 무엇이고 왜 중요한가.
- LLM Systems
컨텍스트 압축(Context Compaction): 에이전트에게 전부 넣지 말고 필요한 것만 남기기
LLM 에이전트에게 매번 전체 대화·로그·tool 결과를 다 넣을 수는 없음. 다음 판단에 필요한 작업 상태만 남기는 컨텍스트 압축 기법을 예시로 정리함.
- LLM Systems
AI Agent는 더 좋은 프롬프트가 아니라 더 좋은 Harness에서 나온다
프롬프트를 한 번도 건드리지 않고 실패하던 에이전트를 성공시키는 방법. Harness Engineering이 무엇이고 왜 중요한가.