Tag: engineering
All the articles with the tag "engineering".
- LLM Systems
모델은 똑똑한데 시스템은 왜 바보가 될까: AI 장애의 대부분은 모델 밖에서 시작된다
데모에서 박수받던 AI 시스템이 프로덕션에서 조용히 무너지는 이유. 프롬프트가 코드가 아닌 이유, 한 줄 고쳤는데 전부 바뀌는 CACE 원칙, 200 OK를 반환하며 망가지는 침묵하는 장애, 그리고 장애 다섯 중 넷이 모델 바깥에서 나온다는 사실까지. 책 『주니어 AI 엔지니어가 반드시 알아야 할 실무 지식』과 함께 보는 첫 번째 글.
- LLM Systems
LLM은 어떻게 채점하나: 평가 방법 11가지를 네 계열로 정리했다
정답을 맞혔는데 0점이 나오는 순간부터 LLM 평가는 갈라지기 시작한다. BLEU·ROUGE·BERTScore부터 LLM 판정자, 배심원단, 에이전트 경로 평가와 안전성 게이트까지 11가지 방법을 네 계열로 묶고, 각각 언제 쓰는지와 어디서 넘어지는지를 정리했다.
- World Models
월드모델 (3) 게임이 월드모델의 가장 혹독한 시험장인 이유
실시간성, 장기 일관성, 다중 사용자, 통제 가능성. 월드모델이 구경거리에서 쓸모 있는 물건이 되려면 넘어야 하는 네 개의 관문을 정리했다. 게임은 이 네 가지를 동시에, 극한 조건으로 요구하는 무대라서 최전선이 됐다. 그리고 이 관문들은 거의 그대로 로봇의 문제이기도 하다. 월드모델 공부 노트 3부작의 마지막 편.
- World Models
월드모델 (2) 모델에게 세계를 통째로 맡기지 않는 이유
하나의 거대한 모델이 전부 학습하게 할 것인가, 모델은 잘하는 것만 하게 하고 나머지는 시스템이 맡을 것인가. 생성 AI 설계의 근본 갈림길에서 로블록스가 택한 하이브리드 아키텍처를 해부한다. 게임엔진이 진실을 지키고 월드모델이 사실감을 입히는 분업, 그리고 그 밑에 깔린 상태와 외양의 분리라는 설계 원칙.