꿈 많은 사람의 이야기

이 논문은 제목부터가 좀 놀랍다. "왜 모든 LLM은 일본 문화에 집착하는가"라는 물음은 이 논문이 실제로 발견한 현상을 그대로 옮긴 것이다. 지금까지 언어모델의 문화 편향을 다룬 연구들은 대체로 "LLM은 서구, 특히 미국과 유럽 쪽으로 기운다"는 결론을 반복해 왔다. 그런데 이 논문은 지역 정보를 일부러 지운 상태에서 모델에게 문화 질문을 던지고 스스로 장소를 고르게 했더니, 여덟 개의 최신 모델 대부분이 미국보다 오히려 일본을 가장 자주 떠올린다는 사실을 확인했다. 기존 통념을 정면으로 뒤집는 결과다.저자들은 여기서 멈추지 않고 두 가지를 더 파고든다. 하나는 입력 언어가 이 편향을 어떻게 바꾸는지, 다른 하나는 이 편향이 모델 학습의 어느 단계에서 생겨나는지다. 결론부터 말하면, 편향은 사전학습(..

포스팅 개요본 포스팅은 AI 에이전트 상호운용(interoperability) 프로토콜을 다룬 논문 Governance Gaps in Agent Interoperability Protocols: What MCP, A2A, and ACP Cannot Express를 리뷰한 글입니다. 2026년 6월에 공개된 논문(arXiv:2606.31498)으로, 요즘 부쩍 자주 들리는 다섯 개의 에이전트 프로토콜인 MCP, A2A, ACP, ANP, ERC-8004을 하나하나 뜯어보면서 "이 프로토콜들이 과연 에이전트 공동체의 거버넌스를 담을 수 있는가"를 체계적으로 따진 연구입니다.그런데 제목을 보고 "또 프로토콜 비교 논문이겠거니" 하고 넘기기엔 조금 관점이 다릅니다. 이 논문에서는 "우리는 AI 에이전트에게 일하..

포스팅 개요이번 포스팅은 2026년 6월에 일어난 Claude Fable 5와 Mythos 5 차단 사건을 정리하는 글입니다. 앤트로픽(Anthropic)이 보안에 특화된 모델 두 개를 6월 9일에 공개했고, 사흘 뒤인 6월 12일에 미국 상무부의 지시로 두 모델이 전 세계에서 막혔습니다. 출시한 회사가 안전을 이유로 잠가 뒀던 모델에 안전장치를 달아 일반에 풀었는데, 사흘 만에 정부가 안보를 이유로 다시 잠근 셈입니다.단순한 출시 해프닝으로 끝날 일이 아닙니다. 강력한 AI 모델이 처음으로 미국 수출 통제의 대상이 됐고, 그 명단에는 KISA, SK텔레콤, 삼성전자, SK하이닉스 같은 한국 기관과 기업의 이름이 올라 있었기 때문입니다. 이 글은 그 사흘 동안 정확히 무슨 일이 있었는지, 그리고 6월 2..

포스팅 개요작년까지만 해도 AI 안전성(Safety)을 이야기할 때 "이 모델이 폭탄 제조법을 알려주느냐", "이 모델이 차별 발언을 하느냐" 같은 단일 응답의 위험에 대한 이야기가 많았었습니다. 모델은 입력에 답하는 함수였고, 평가는 그 답이 얼마나 위험한가에 초점을 맞췄던 것이죠.1년이 더 지난 지금, 무게중심이 옮겨간 것 같습니다. 이제는 우리가 걱정해야 하는 건 모델이 무슨 말을 하느냐가 아니라, 모델이 도구를 들고 무엇을 하느냐인 것 같습니다. 코드를 실행하고, 파일을 읽고, 메일을 보내고, 다른 에이전트와 협업하는 AI Agent 시스템의 시대이기 때문이죠. 그리고 이 에이전트들이 본격적으로 실서비스에 들어가기 시작하면서, 챗봇 시대의 안전 평가 방식이 더 이상 통하지 않는다는 이야기가 점점 ..

포스팅 개요2026년 들어 클로드 코드(Claude Code) 생태계에서 가장 화제가 된 GitHub 저장소가 하나 있습니다. 이름은 andrej-karpathy-skills입니다. 카파시가 X(구 트위터)에 올린 짧은 글 한 편에서 영감을 받아 한 개발자가 그 다음 날 만든 저장소인데요(이름만 들으면 안드레이 카파시(Andrej Karpathy)가 직접 만든 공식 저장소처럼 보이지만, 사실은 그렇지 않습니다.) 그런데 이 저장소가 단 한 장의 마크다운 파일을 중심으로 GitHub에서 별 10만 개를 넘기는 폭발적인 반향을 일으켰습니다.저는 이전 글들에서 그동안 클로드 코드의 스킬, 룰, 서브 에이전트이라는 개념을 차례로 다뤄왔습니다. 이번에 살펴볼 카파시 저장소는 그 모든 흐름이 가장 압축된 형태로 구..

포스팅 개요본 포스팅은 2026년 2월 구글(Google)과 버지니아 대학(University of Virginia) 공동 연구팀이 발표한 Think Deep, Not Just Long: Measuring LLM Reasoning Effort via Deep-Thinking Tokens 논문을 리뷰하고, 이 연구가 실제 AI 사용자들에게 어떤 의미를 가지는지까지 개인적인 생각을 정리한 포스팅입니다.최근 추론 모델(Reasoning Model)이 AI 업계의 주류로 자리 잡으면서, 이른바 "길게 생각할수록 더 정확하다"는 가정이 업계의 암묵적인 통념이 되었습니다. 그런데 어느 순간부터 그 반대 방향의 연구들이 조금씩 나오기 시작했고, 이 논문도 그 흐름 중 하나인 연구입니다.논문의 핵심 주장을 한 문장으로..

포스팅 개요본 포스팅은 Agent Drift: Quantifying Behavioral Degradation in Multi-Agent LLM Systems Over Extended Interactions라는 논문을 리뷰하는 포스팅입니다. 최근 AI 에이전트(AI Agent) 기술이 빠르게 발전하면서, 단순히 하나의 LLM이 질의응답을 수행하는 것을 넘어서 여러 에이전트가 협력하여 복잡한 작업을 수행하는 Multi-Agent LLM 시스템이 주목받고 있습니다.LangGraph, AutoGen, CrewAI와 같은 프레임워크의 등장으로 이러한 다중 에이전트 시스템의 배포가 급격히 가속화되었는데요. 이러한 시스템들은 코드 생성, 연구 종합, 기업 자동화 등 다양한 영역에서 인상적인 성능을 보여주고 있습니다...

포스팅 개요본 포스팅은 Carnegie Mellon University 연구진이 발표한 "Is Vibe Coding Safe? Benchmarking Vulnerability of Agent-Generated Code in Real-World Tasks" 논문을 리뷰하는 포스팅입니다. 최근 AI 코딩 도구의 발전으로 바이브 코딩(Vibe Coding)이라는 새로운 프로그래밍 패러다임이 등장했는데요. 개발자가 자연어로 요청하면 LLM 에이전트가 복잡한 코딩 작업을 수행하는 방식입니다.Cursor, Claude Code와 같은 AI 기반 개발 도구들이 급격히 인기를 얻으면서, 설문조사에 따르면 개발자의 75%가 바이브 코딩을 사용하고 있으며 그 중 90%가 만족한다고 응답했습니다. 심지어 Anthropic ..

포스팅 개요본 포스팅은 최근 RAG(Retrieval-Augmented Generation)의 한계를 극복하기 위해 제안된 CRAG(Corrective Retrieval Augmented Generation)라는 논문을 리뷰하는 포스팅입니다.LLM(Large Language Model)이 환각(Hallucination) 현상을 겪는다는 것은 이제 널리 알려진 사실입니다. 이를 해결하기 위해 외부 지식을 검색해 오는 RAG 기술이 필수적으로 사용되고 있죠. 하지만, 만약 "검색해 온 문서 자체가 틀렸거나 관련이 없다면" 어떻게 될까요? 기존 RAG는 검색된 문서를 맹목적으로 신뢰하다 보니, 잘못된 정보를 바탕으로 더 그럴듯한 거짓말을 만들어내곤 합니다. CRAG는 바로 이 지점에서 출발합니다. 검색된 문서..

포스팅 개요최근 AI 챗봇과 대화를 나누거나 긴 리포트를 요약시킬 때, "입력 가능한 글자 수를 초과했습니다"라는 메시지를 본 적 있으신가요? 현대의 대형 언어 모델(LLM)은 놀라운 성능을 보여주지만, 치명적인 약점을 안고 있습니다. 바로 '긴 텍스트'를 다루는 비용입니다.이는 LLM의 핵심 엔진인 '어텐션 메커니즘'이 입력된 텍스트의 길이가 길어질수록 계산량이 길이의 '제곱($O(n^2)$)'으로 폭증하는 근본적인 한계 때문입니다. 텍스트 1,000자를 처리하는 데 1초가 걸렸다면, 2,000자를 처리하는 데는 4초, 4,000자를 처리하는 데는 16초가 걸리는 식이죠. 이 때문에 수백만 자에 달하는 방대한 문서를 한 번에 처리하는 것은 사실상 불가능했습니다. 그런데 만약, 이를 피할 수 있는 기발한..