Tag: llm
All the articles with the tag "llm".
- Financial AI
판매량 예측 (2) 타임 어텐션과 그룹 어텐션 뜯어보기
시계열 트랜스포머는 셀러 한 명의 매출과 공변량들을 격자로 놓고, 가로로는 시간을 따라, 세로로는 같은 그룹의 시계열끼리 어텐션을 번갈아 건다. 크로노스-2 구조를 기준으로 토큰화부터 그룹 마스크까지 파이토치 코드로 따라가고, 판매 예측에 쓸 때 조심할 것을 정리했다. 일별 분위수를 더하면 월 분위수가 안 되는 이유까지.
- LLM Systems
앤트로픽 데이터팀을 보며: 분석가가 내놓는 게 달라지고 있다
앤트로픽이 사내 분석 질문의 95%를 클로드로 처리하게 된 과정을 공개했다. 과거 SQL 수천 개를 줘도 정확도는 안 움직였고, 정의 문서를 방치하자 한 달 만에 95%에서 65%로 떨어졌다. 데이터 분석가 자리에서 읽으면 결국 산출물이 바뀐다는 얘기다. 쿼리와 숫자에서 정의와 절차와 정답셋으로.
- LLM Systems
코드를 한 줄도 안 건드렸는데 시스템이 망가진다: 데이터가 조용히 썩는 경로들
타입도 맞고 값도 정상 범위인데 모델만 이상해진다. 원화를 달러로 바꿔 적기 시작한 price 컬럼, 2년 전 리서치 보고서를 근거로 자신 있게 답하는 RAG, 그리고 모델의 오해가 사용자 행동을 거쳐 정답으로 굳는 피드백 루프까지. 데이터가 소리 없이 부패하는 세 가지 경로.
- AI Coding
앤드류 응의 AI 엔지니어링 스킬맵을 뜯어보며: 네 항목이 사실 한 가지를 말하고 있다
채용 공고 1만 건을 분석해 뽑았다는 네 가지 AI 엔지니어링 역량. 목록을 그대로 옮기는 대신 구조를 뜯어봤다. 이건 나란한 목록이 아니라 층이고, 네 항목 전부에 같은 것이 들어 있으며, 정작 모델을 만드는 능력은 목록에 없다. 그리고 이 지도에서 흐리게 그려진 곳들에 대해.