리브의 아침 브리핑

01Transformer를 시각적으로 이해하기

Transformer Explainer는 GPT-2 small을 브라우저에서 직접 돌리면서, 입력 문장이 다음 토큰 확률로 바뀌는 과정을 단계별로 펼쳐 보여 줍니다. 최신 모델은 아니지만 임베딩, 어텐션, MLP, 샘플링이라는 뼈대는 요즘 모델과 같습니다.

• 문장을 입력하면 토큰화, 768차원 임베딩, 위치 인코딩을 거쳐 12개 블록을 통과하는 동안 실제 계산값이 바뀌는 모습을 볼 수 있습니다.
• 어텐션 맵에서 토큰에 커서를 올리면 그 토큰이 앞 문장의 어디를 얼마나 참조하는지 강조되고, 마스킹 때문에 미래 토큰이 가려진다는 것도 눈으로 확인됩니다.
• temperature, top-k, top-p를 움직이면 후보 분포가 날카로워지거나 퍼지는 것이 보여서, 생성 결과의 다양성이 어디서 오는지 감이 옵니다.

poloclub.github.io · 관심사 상 · 추천 상위 7.8%

02MCP는 처음부터 잘못된 아이디어였다

코드를 실행하고 API를 직접 부를 수 있는 에이전트에게, 이미 있는 API를 다시 감싼 MCP 서버는 필요 없어졌습니다. 서버를 늘릴수록 도구 설명이 컨텍스트를 먹고, 그걸 줄이려고 도구 검색과 관리 시스템이 또 얹힙니다. 저는 MCP를 확장하기보다 걷어내고 HTTP와 CLI로 돌아가자고 제안합니다.

• 최신 모델은 처음 보는 API의 사용법을 스스로 파악하고, --help로 CLI를 탐색하고, 여러 서비스를 스크립트로 묶습니다. Cloudflare Code Mode도 같은 방향입니다.
• 남는 문제는 장황한 JSON/XML 응답이 토큰을 낭비한다는 점인데, 이건 새 프로토콜이 아니라 기존 HTTP 콘텐츠 협상으로 풀 수 있습니다.
• Accept: text/markdown으로 문서를 받고, 선호하는 프로그래밍 언어를 헤더로 보내 그 언어의 예제를 받는 방식이 이미 쓰이고 있고, Shopify 문서가 이를 적용했습니다.

maharship.com · 관심사 최상 · 추천 상위 14.4%

03당신이 직접 쓰지 않은 글은 읽고 싶지 않다

AI가 만든 설계 문서와 PR 요약은 무엇을 바꿨는지는 빠짐없이 늘어놓지만, 왜 필요한지와 어디를 봐야 하는지는 자주 빠뜨립니다. 프롬프트를 쓴 사람은 맥락을 알지만 읽는 사람은 그 맥락을 거꾸로 복원하느라 모든 문장을 읽어야 합니다. 저는 본문은 직접 쓰고, AI는 검증과 편집에 씁니다.

• 이미 AI로 구현을 끝낸 뒤 결과를 요약해 설계 문서로 내놓으면, 동료를 끌어들여 합의를 만드는 과정이 사후 설명으로 바뀝니다.
• 논문을 쓸 때 문단마다 AI에게 소스 코드·로그·설정과 대조하게 했더니, 사람 검토자 넷이 놓친 LSM 레벨 표기 오류까지 잡았습니다. 반대로 문단을 쓰게 했을 때는 한 번도 쓸 만하지 않았습니다.
• 읽는 사람이 원하는 건 매끈한 정보가 아니라 판단과 목소리이고, 조사에서도 98%가 결점이 있더라도 사람이 쓴 글을 고른다고 답했습니다.

blog.colinbreck.com · 관심사 상 · 추천 상위 20.1%

04확산 언어 모델을 만드는 방법

자기회귀 모델이 토큰을 하나씩 이어 쓰는 반면, 확산 언어 모델은 빈칸으로 가득한 문장에서 시작해 여러 위치를 한꺼번에 채웁니다. 학습의 기본은 문장 일부를 무작위 비율로 가리고 복원하는 것으로, 생성형 BERT라고 보면 됩니다. 실제 제품은 여기에 블록 생성, 재마스킹, 증류를 얹어 길이·오류·속도 문제를 풉니다.

• MDLM은 마스킹 비율을 모든 값에 걸쳐 평균 낸 교차 엔트로피로 학습하고, 이 값이 ELBO라서 자기회귀 모델과 퍼플렉서티로 비교할 수 있습니다.
• 블록 확산은 앞 블록을 조건으로 다음 블록을 확산해 가변 길이와 KV 캐싱을 얻고, Gemma Diffusion은 256토큰 블록을 이어 1,024토큰을 만듭니다.
• Mercury는 일반 GPU에서 초당 1,000토큰 이상을 내고, 같은 방식이 단백질과 DNA 설계에도 쓰입니다.

kuleshov-group.github.io · 관심사 상 · 추천 상위 45.9%

05이제 인간 수학자가 왜 필요한가?

AI가 인간보다 많은 증명을 내놓더라도, 무엇을 연구하고 그 결과를 어디에 쓸지는 인간의 번영을 목표로 하는 전문가 공동체가 정해야 합니다. 그 판단력은 구경만 해서는 유지되지 않으므로, 인간 수학자는 AI의 도움을 받더라도 최전선에서 계속 직접 연구해야 합니다.

• OpenAI의 Navier-Stokes 발표 뒤로 선언문과 공개서한에 수천 명씩 서명했고, 저는 그 근거를 기득권 보호가 아니라 '인류가 번영하도록 돕는다'는 공리 위에 세우자고 제안합니다.
• AI가 발전할수록 사람이 감독해야 할 통제 지점은 오히려 늘어나고, 그 일을 할 고숙련 인력이 모자라면 AI 발전 속도도 거기서 막힙니다.
• 달리는 속도보다 빨리 운전하는 건 괜찮지만, 조향할 수 있는 속도보다 빨라서는 안 됩니다.

terrytao.wordpress.com · 관심사 중 · 추천 상위 59.8%

06M5 Ultra Mac Studio 리뷰: 로컬 AI 에이전트를 위한 꿈의 Mac

256GB M5 Ultra Mac Studio에서 Qwen3.8-Flash-Next를 개인 비서와 Hermes Agent의 기본 모델로 쓰고 있습니다. M3 Ultra보다 생성은 평균 70%쯤, 프롬프트 처리는 150% 빨라져서, 시스템 프롬프트와 도구 설명을 읽느라 기다리던 시간이 확 줄었습니다.

• 이전 Mac Studio에서도 로컬 에이전트를 99일 내내 돌려 리뷰 자료 310개를 정리하고 출처를 교차 확인했고, 추가 클라우드 API 비용은 0달러였습니다. 본문은 제가 직접 썼습니다.
• RTX 5090은 비교한 테스트에서 더 빨랐지만, VRAM 32GB가 모델 크기를 막습니다. 큰 모델을 상시 돌리는 용도라면 통합 메모리가 유리합니다.
• 투자금이면 가장 비싼 클라우드 구독을 몇 년 쓰고도 남으니, 개인정보 보호나 실험 자체가 목적이 아니라면 권하지 않습니다.

macstories.net · 관심사 상 · 추천 상위 69.4%

07AI에게는 지혜가 없고 당신에게도 없게 될 것이다

코드를 읽지도 쓰지도 않게 된 사람과 조직은 스스로 위험을 부르고 있습니다. 나쁜 아키텍처는 몇 달, 몇 년 뒤에야 드러나고, 즉각적인 보상 신호로 배우는 AI는 그 효과를 학습할 수 없습니다.

• 유지보수성의 적합도 함수를 정의할 수 있었다면 벌써 린터에 들어가 있었을 겁니다. 최신 모델도 재사용되지 않는 작은 함수로 쪼개는 식의 '단순화'에 서툽니다.
• AI에 기대는 사람은 선택하지 않고, 실수에 책임지지 않고, 실수에서 배우지 않으므로 숙련에 이르지 못합니다. 실수를 한 AI도 배우지 않습니다.
• 저는 LLM을 매일 쓰지만, 앞으로 'NO-AI' 정책을 경쟁력으로 내세우는 회사가 늘 것이고 그들이 옳을 거라고 봅니다.

alexn.org · 관심사 상 · 추천 상위 79.7%

08Ask GN: 클로드로 프로젝트 하나를 계속 이어가는데, 세션 나눌 때마다 이전 대화 설명하는 게 너무 귀찮아요, ...

Claude로 프로젝트 하나를 계속 이어 가면서 세션은 목적별로 나눠 쓰는데, 새 세션을 열 때마다 방금까지 하던 이야기를 다시 설명해야 해서 번거롭습니다. 원래 세션에 요약을 부탁해 봤지만 구체적이지 않고 원하는 형태로도 나오지 않았습니다.

• 댓글에서는 메모리·세션·버릇을 파일로 남겨 Claude와 GPT가 함께 읽게 하는 ballast 플러그인이 추천됐습니다.
• Matt Pocock 스킬 모음의 handoff를 써 보라는 답도 있었습니다.
• Codex와 Claude Code를 오가며 맥락을 넘기는 acdc 플러그인을 쓴다는 경험담도 붙었습니다.

news.hada.io · 관심사 중 · 추천 상위 88.8%

09Claude Opus 5.5 공개

Claude Opus 5.5

Anthropic이 Claude Opus 5.5를 공개했습니다. 본문이 들어오지 않아 성능과 가격은 원문에서 확인해야 하고, 여기서는 발표 사실과 첫 반응만 정리합니다.

• 댓글에서는 전날 장애를 들어 이번 모델이 버틸 수 있겠냐는 농담이 먼저 나왔습니다.
• Opus 5의 문체가 나빴는데 이번에 고쳐졌으면 좋겠다는 기대가 보입니다.
• 발표 페이지의 스크롤 UI가 읽기 불편하다는 불만도 올라왔습니다.

anthropic.com · 관심사 최상 · 프런트 상위 1.1%

10OpenAI GPT-6 Sol과 Luna 공개

GPT-6 Sol and Luna

OpenAI가 GPT-6 제품군에 Sol과 Luna를 추가했습니다. 본문은 들어오지 않았고, 가격 이야기는 전부 댓글에서 나온 것입니다.

• 댓글에 따르면 5.6 대비 가격이 절반으로 내려갔고, Luna는 입력 100만 토큰당 0.10달러, 출력 0.50달러라고 합니다.
• Anthropic 발표와 같은 날을 노린 게 분명하다는 반응이 있습니다.
• Azure·AWS 제공 여부는 발표에 없다는 지적도 나왔습니다.

openai.com · 관심사 최상 · 프런트 상위 1.3%