Tag: llm
All the articles with the tag "llm".
- LLM Systems
FDE에 대한 고찰: 이름은 열 개인데 하는 일은 하나다
Forward Deployed Engineer, 솔루션 아키텍트, 레지던트 SA, 커스터머 석세스 엔지니어, 디플로이먼트 전략가, 응용 AI 엔지니어. 이름이 계속 늘어나는데 놓고 보면 축은 둘뿐이다. 팔란티어가 만든 이 직군을 왜 지금 AI 회사들이 앞다퉈 뽑는지, 그리고 진짜 핵심이 무엇인지에 대한 개인적인 정리.
- World Models
팔란티어 온톨로지는 진짜 온톨로지인가
팔란티어는 자사 제품의 핵심을 Ontology라고 부른다. 그런데 W3C 표준을 쓰지 않고 논리 추론도 없어서, 학술적 의미의 온톨로지는 아니라는 비판이 만만치 않다. 객체·링크·액션이라는 구성과 세 개의 층을 뜯어보고, 존재·상태·전이·제약이라는 네 축으로 고전 온톨로지와 나란히 재본다.
- AI Coding
[잡담] 요즘 내 보고서를 제일 먼저 읽는 건 팀장이 아니다
보고서를 올리면 팀장이 그걸 GPT에 넣고 요약과 비평을 시킨다. 크고 작게 대부분의 결과물이 어딘가에서 한 번은 AI를 거치는 시대라면, 순서를 바꿔서 내가 먼저 돌려보면 된다. 교차검증하는 법, 검증을 제대로 시키는 네 가지 질문, 그리고 promptfoo·LibreChat·llm-council 같은 오픈소스 도구들.
- LLM Systems
모델은 똑똑한데 시스템은 왜 바보가 될까: AI 장애의 대부분은 모델 밖에서 시작된다
데모에서 박수받던 AI 시스템이 프로덕션에서 조용히 무너지는 이유. 프롬프트가 코드가 아닌 이유, 한 줄 고쳤는데 전부 바뀌는 CACE 원칙, 200 OK를 반환하며 망가지는 침묵하는 장애, 그리고 장애 다섯 중 넷이 모델 바깥에서 나온다는 사실까지. 책 『주니어 AI 엔지니어가 반드시 알아야 할 실무 지식』과 함께 보는 첫 번째 글.