#LLM
51개의 글RSS
AI / AGENT
Hippo: 하네스 대신 기억을 고친다, 해마 재생에서 빌려온 학습 없는 에이전트 자기 진화15분UC Irvine·Rice·Zillow의 Hippo 논문 리뷰. 모델 파라미터도 하네스 코드도 건드리지 않고 외부 메모리만 갱신해 에이전트를 진화시킨다. 같은 과제를 8번 돌려 실패하거나 '운 좋게 맞은' 시도만 반성하고(선택적 부호화), 시도들을 대조해 뽑은 경험을 기존 메모리와 병합·삭제한다(해마 재생). SWE-bench Verified·WebArena·Mind2Web 수치, 메모리를 쌓기만 하면 무기억보다 나빠지는 역U 곡선, '그냥 다시 시도' 기준선, 그리고 과제 순서와 심판 공유 같은 비판적 읽기까지 정리한다.
AI논문리뷰AgentHarness자기개선메모리에이전트설계LLMSWE-benchWebArenaAI / Inference
FreeToken: 대역폭 적응 실행으로 엣지에서 MoE 서빙하기 — 미스를 '옮길지, 그 자리에서 계산할지'를 기계가 정한다16분UC Berkeley·MIT·UT Austin 팀의 FreeToken 논문 리뷰. 호스트 메모리에 전문가 풀을 두고 GPU는 전역 LRU 캐시로 쓰되, 캐시 미스를 PCIe 전송과 CPU 직접 실행으로 나누는 비율을 기계에서 측정한 두 대역폭으로 닫힌 형태로 정한다. RTX 5090에서 Qwen3.6-35B 77~83 tok/s, DeepSeek-V4-Flash 22~25 tok/s로 llama.cpp·KTransformers 대비 1.5~2.3배를 기록한 결과와, 같은 시리즈의 Edge0(SSD 스트리밍 + 라우팅 예측)과의 차이를 정리한다.
AI논문리뷰LLMMoE추론최적화엣지서빙CPU-GPU하이브리드온디바이스llama.cppAI / LLM
확산 언어 모델 에이전트의 메타인지 디코딩: 토큰을 언제 확정하고 어디서 멈출지 배우는 플러그인14분럿거스대 Zhao·Lin 등의 논문 'Metacognitive Decoding: Efficient Inference for Diffusion Language Agents' 리뷰. 마스크 확산 언어 모델이 어떻게 텍스트를 만드는지(병렬 디노이징, 블록, 스텝 수와 품질)부터 짚고, 얼어붙은 확산 백본 위에 2층 Transformer 컨트롤러를 얹어 어떤 토큰을 확정할지와 블록의 몇 칸을 계산할지를 GRPO로 학습시킨 방법, BFCL·멀티홉 QA 5개 벤치마크에서 가장 효율적인 베이스라인 대비 FLOPs 20.6% 절감이라는 수치의 실제 구성을 뜯어본다.
AI논문리뷰LLMDiffusion LMdLLMLLaDAAgent추론최적화Tool UseAI / AGENT
ScholarEvolve: 실패 로그 대신 논문을 읽고 하네스를 진화시키는 에이전트17분UCSB와 Microsoft의 ScholarEvolve 논문 리뷰. 자기 개선 에이전트가 제안을 만드는 원천을 '자기 실패 로그'에서 '학술 문헌'으로 바꾼다. 하네스를 5개 모듈로 나누고, 실패 감사 → 역량 격차 → arXiv 검색 → 토픽 모델링 → 논문 읽고 구현 → 모듈 교차 → 검증 세트 채택이라는 유전 알고리즘식 루프를 돈다. AppWorld·tau-Bench 수치, 3라운드 평생 진화, ablation, 그리고 논문이 다루지 않는 보안·비용 문제까지 정리한다.
AI논문리뷰AgentHarness자기개선에이전트설계LLMMicrosoftAI / AGENT
Agensh: 중앙 관리자 없이 1,024개 코딩 에이전트가 스스로 역할을 나누는 Microsoft의 멀티에이전트 하네스14분Microsoft Research가 2026년 10월 24일 MIT 라이선스로 공개한 자기조직화 멀티에이전트 하네스 Agensh(arXiv 2609.26781)를 1차 출처로 정리한다. 오케스트레이터 없이 Gitea·Mattermost·공유 컨텍스트 보드 위에서 동일한 프롬프트를 받은 워커들이 작업을 claim하고 머지하는 5단계 협업 루프, ProgramBench 최난이도 5개 과제에서 1→128 에이전트가 19.31%→28.78%, pandoc 1→1,024가 33.89%→55.06%를 기록한 조건, 8/32/128/1,024개 규모에서 관찰된 창발적 리뷰·integrator 역할, 그리고 동일 비용 비교가 아니라는 한계와 재현 요구사항까지 다룬다.
AI논문리뷰Agent멀티에이전트Harness에이전트설계Microsoft오픈소스LLMAI / Inference
DeepInfer: DeepSeek이 공개한 프로덕션 추론 프레임워크 해부16분DeepSeek이 2026년 10월 20일 Apache-2.0으로 공개한 추론 프레임워크 DeepInfer를 저장소 README·배포 Q&A 문서 기준으로 정리합니다. FlashMLA·DeepGEMM·DeepEP가 안에서 맡는 역할, DSpark 가변 길이 검증, SWA bounded replay, 비동기 스케줄링과 벤치마크 수치의 측정 조건, 그리고 이번 공개에 빠진 것(KV cache 시스템·PD 분리·로드밸런서)까지 다룹니다.
AILLMDeepSeek추론최적화서빙Speculative DecodingMoEKV Cache오픈소스AI / AGENT
Harness²: 정답 없이 하네스를 고치고, 고친 경험까지 쌓는 재귀적 하네싱18분Google Cloud AI Research의 Harness² 논문 리뷰와 공개 코드 실행기. 하네스가 설계 분포 밖의 과제에서 깨지는 open-world 문제를 두 층의 재귀로 푼다. 과제 수준에서는 정답 피드백 없이 Propose–Probe–Compose로 편집을 검증하고, 하네싱 수준에서는 채택된 하네스와 교훈을 개선 하네스에 축적한다. 8개 편집 가능 컴포넌트, 병렬·순차 재귀, 세 벤치마크 수치, 그리고 macOS에서 데모를 직접 돌려본 결과와 보안 주의까지 정리한다.
AI논문리뷰AgentHarness에이전트설계자기개선LLMGoogleAI / AGENT
루프 엔지니어링: 프롬프트를 쓰지 말고, 에이전트를 프롬프트하는 루프를 설계하라17분2026년 6월 Steinberger·Cherny·Osmani의 발언으로 퍼진 '루프 엔지니어링'을 1차 출처로 정리한다. 프롬프트→컨텍스트→하네스→루프로 이어지는 계보, 하네스와 루프의 경계, Ralph Wiggum bash 루프가 통한 이유, 트리거·검증자·종료 규칙·가드레일 구성 요소, Claude Code /loop·/goal과 Codex /goal의 실제 범위, 그리고 '리뷰 가능한 근거 없이 퍼진 개념'이라는 arXiv 논문의 지적과 36,710개 저장소 마이닝 결과까지 다룬다.
AIAgentLoop EngineeringHarness에이전트설계Claude CodeCodexLLMAI / AGENT
RRSI: 하네스가 스스로를 고칠 때 벤치마크 과적합을 막는 정규화13분Google의 RRSI 논문 리뷰. 에이전트 하네스를 LLM이 반복 편집하는 재귀적 자기 개선은 진화 세트에 과적합되기 쉽다. 시간에 따라 줄어드는 편집 예산, 정체 시 탐험 유도, 누수 비평가와 노이즈·비용 기준의 선별, 구조 가지치기로 검색을 정규화해 8개 벤치마크에서 OOD 전이와 토큰 효율을 동시에 얻은 결과를 정리한다.
AI논문리뷰AgentHarness에이전트설계자기개선LLMGoogleAI / ASR
스트리밍 ASR 2026: 음성 인코더 + LLM 디코더가 음성 인식을 평정하다13분2026년 10월 1일 공개된 Microsoft MAI-Transcribe-2-Streaming(벤더 발표 + Artificial Analysis 독립 수치)과 1월 공개된 Alibaba Qwen3-ASR(기술 보고서)을 비교합니다. FireRedASR2-LLM, Fun-ASR, Canary-Qwen까지 1차 자료로 아키텍처를 확인해 '인코더 + LLM 디코더' 트렌드가 어디까지 사실인지, 그리고 Nemotron 식 RNN-T 스트리밍과 무엇이 다른지 정리합니다.
AI논문리뷰ASR음성인식스트리밍LLMQwen3-ASRMicrosoft벤치마크AI / LLM
UCCI: 토큰 마진을 캘리브레이션해 비용 최적 LLM 캐스케이드를 만들다12분작은 모델이 먼저 답하고 불확실하면 큰 모델로 넘기는 LLM 캐스케이드 논문 UCCI 리뷰. 토큰 top-1/top-2 마진을 평균해 불확실성 점수를 만들고, isotonic regression으로 오류 확률로 캘리브레이션한 뒤, 정확도 제약 하에서 비용을 최소화하는 임계값을 고른다. 4B/12B NER 워크로드에서 F1 0.91 기준 비용 31% 절감, 어떤 집계 방식이 왜 나은지, 캘리브레이션이 깨지는 조건까지 정리한다.
AI논문리뷰LLMCascadeRoutingCalibrationIsotonic RegressionSelective Prediction추론비용AI / AGENT
Raven: 하네스의 하네스, 모델-하네스 쌍을 조합하는 에이전트 생태계15분EverMind AI의 Raven 논문 리뷰. 실행 가능한 모델-하네스 쌍을 조합 단위로 보고, Host Agent가 목표를 DAG로 분해해 전문 에이전트에 배정하며, host archive·EverOS·Skill Forge로 경험을 축적한다. 조합이 task coverage를 넓히는 이론적 조건과 장기 과제 벤치마크 결과까지 정리한다.
AI논문리뷰Agent멀티에이전트Harness에이전트설계LLMSkillAI / Inference
Edge0: 35B MoE를 SSD에서 3GiB 메모리로 서빙하기 — 라우팅을 한 토큰 먼저 예측한다13분AutoArk의 Edge0 기술 보고서 리뷰. 전문가 가중치를 SSD에 두고 mmap으로 스트리밍하되, 다음 레이어의 라우팅을 한 토큰 먼저 예측하는 prerouter로 디스크 읽기를 연산 뒤에 숨깁니다. int4 양자화 손실은 병합하지 않는 recovery LoRA로 되찾아, 24GB Mac mini에서 35B MoE를 2.9GiB 피크 메모리, 20.4 tok/s로 서빙한 결과를 정리합니다.
AI논문리뷰LLMMoE추론최적화SSD오프로딩양자화LoRA온디바이스AI / Inference
SparLeak: 공유 GPU에서 Sparse Attention이 사이드채널이 되는 이유11분SparLeak 논문 리뷰. 긴 컨텍스트 추론을 빠르게 하려고 쓰는 sparse attention이 '어떤 KV 페이지를 읽었는가'라는 데이터 의존적 메모리 접근 패턴을 남기고, 같은 GPU에 올라탄 다른 테넌트가 L2 캐시·TLB 경합으로 이를 읽어내 쿼리 속성 90.9%, 응답 토큰 87.3%를 복원한다는 내용을 정리합니다. 방어/인식 목적의 보안 연구 리뷰입니다.
AI논문리뷰LLMSparse AttentionKV Cache사이드채널GPU 보안서빙추론최적화AI / Inference
vLLM 분해하기: Prefill/Decode 분리와 GPU 없는 프론트엔드 실습 가이드15분vLLM 공식 블로그 'Taking vLLM Apart'를 따라 vLLM v0.30에서 P/D 분리와 GPU-less 렌더 티어를 실제로 켜는 방법을 정리합니다. NIXL 커넥터 구성, /render·/derender 3홉 호출, 2×L40S 측정 수치로 본 이득과 손해, 운영 시 주의점까지 다룹니다.
AILLMvLLMPD분리추론최적화서빙KV CacheNIXL실습AI / LLM
Context Language Models: 컨텍스트를 파일처럼 직접 고치는 LLM12분UW·Meta Superintelligence Labs의 Context Language Models(CLM) 논문 리뷰. 모델의 라이브 컨텍스트를 하나의 파일로 미러링하고 Bash로 마음대로 편집하게 하자, 요약·슬라이딩 윈도우·메모리 툴 같은 기존 컨텍스트 관리 전략보다 더 적은 연산으로 더 높은 정확도를 냈습니다. 자연어 한 문장으로 전략을 조종하고, 온라인 RL로 가중치에 내재화하는 방법까지 정리합니다.
AI논문리뷰LLMAgentContext EngineeringKV Cache강화학습GRPOAI / LLM
Dust: 역전파 없이 트랜스포머를 사전학습하다9분Q Labs의 Dust 논문 리뷰. 가중치가 아니라 활성값(activation)에 노이즈를 주고, 토큰 하나하나를 '가상 개체군'으로 삼아 순전파만으로 트랜스포머를 학습합니다. 큰 population에서는 backprop을 넘어서기도 하는 결과를 정리합니다.
AI논문리뷰TransformerLLMBackpropagationEvolution StrategiesZeroth-order사전학습AI / LLM
Jev: 텍스트 대신 '확률 붙은 답 하나'를 돌려주는 System One 결정 모델13분TypeSafe AI의 Jev는 문장을 생성하지 않는다. 호출자가 미리 정한 답 집합 중 하나를 캘리브레이션된 확률과 함께 돌려준다. System One(결정) vs System Two(추론) 구분, 입출력 인터페이스, 캘리브레이션, 어디에 쓰고 어디에 쓰면 안 되는지, 그리고 'LLM 판정자와 같은 곳에서 틀린다'는 Penn 논문의 결론까지 정리한다.
AI논문리뷰LLMJevSystem OneCalibrationLLM-as-a-JudgeAI AgentAI / AGENT
MCP(Model Context Protocol) 완전 정복 — AI와 도구를 연결하는 USB-C5분Anthropic이 제안한 MCP의 구조와 작동 원리를 깊이 파헤칩니다. Host, Client, Server의 역할 분리부터 직접 MCP 서버를 만드는 실습 코드까지 한 번에 정리합니다.
AIAgentMCPAnthropicLLM도구연결오픈소스프로토콜AI / Inference
AI 추론 비용 줄이기 — KV Cache 완전 정복6분LLM 추론의 핵심 병목인 KV Cache의 원리부터 최신 최적화 기법(MLA, GQA, Sliding Window, Prefix Caching)까지 한 번에 정리합니다. vLLM PagedAttention과도 연결해서 설명합니다.
AILLMKV Cache추론최적화vLLMGQAMLA서빙AI / Inference
Prefill-Decode 분리(PD Disaggregation): LLM 서빙의 새로운 표준5분2025년 LLM 서빙의 표준이 된 Prefill-Decode 분리(PD Disaggregation)의 원리를 파헤칩니다. Prefill과 Decode가 왜 다른 자원을 필요로 하는지, TTFT와 TPOT를 동시에 잡는 방법, DistServe에서 NVIDIA Dynamo까지 정리합니다.
AILLM추론최적화서빙DistServePD분리TTFTTPOTvLLMSGLangAI / Inference
RadixAttention: KV Cache 재사용을 자동화하는 기발한 아이디어5분SGLang이 제안한 RadixAttention의 핵심 원리를 파헤칩니다. Radix Tree 자료구조로 KV Cache를 자동 재사용하는 방식, vLLM의 Prefix Caching과의 차이, 그리고 실제 성능까지 정리합니다.
AILLMRadixAttentionSGLangKV Cache추론최적화서빙자료구조AI / Inference
Speculative Decoding: 작은 모델로 큰 모델을 빠르게 만들기5분LLM 추론의 자기회귀 병목을 해결하는 Speculative Decoding의 원리를 파헤칩니다. 드래프트 모델, 검증 메커니즘, 수용률, 그리고 Self-Speculative Decoding까지 한 번에 정리합니다.
AILLM추론최적화Speculative Decoding서빙vLLM속도AI / LLM
Transformer 없이 언어 모델 만들기 — Mamba(SSM) 완전 정복4분Attention의 O(T²) 병목을 없앤 상태 공간 모델(SSM) Mamba의 핵심 원리를 파헤칩니다. 선택적 상태 공간, 하드웨어 인식 병렬화, 그리고 Transformer와의 성능 비교까지 정리합니다.
AILLM논문리뷰MambaSSM상태공간모델아키텍처딥러닝AI / AGENT
KGGen: 텍스트에서 지식 그래프를 생성하는 새로운 방법2분평문(plain text)으로부터 자동으로 고품질 지식 그래프를 생성하는 KGGen 논문 리뷰. 동의어 군집화로 희소성을 줄이고 새로운 평가 기준 MINE을 제안한 접근법을 정리합니다.
AINLP논문리뷰지식그래프KGGenPythonLLMGraphRAGAI / LLM
Engram: LLM에 '기억의 서랍'을 달아주다6분DeepSeek-AI & Peking University가 발표한 Engram 논문 리뷰. N-gram 해싱 기반 조건부 메모리로 MoE의 '조건부 계산'을 보완하여 추론 능력까지 향상시키는 원리를 정리합니다.
AILLM논문리뷰DeepSeekMoE메모리스케일링아키텍처AI / AGENT
대규모 코드베이스를 정복하는 AI 코딩 에이전트: Confucius Code Agent 깊이 파헤치기6분Meta와 Harvard가 공동 발표한 Confucius Code Agent(CCA) 논문 리뷰. AX/UX/DX 분리, 계층적 컨텍스트 관리, Hindsight Notes, 메타 에이전트 등 핵심 메커니즘을 코드와 함께 정리합니다.
AIAgentLLM코딩에이전트SWEMetaHarvard논문리뷰AI / AGENT
Effective harnesses for long-running agents2분Anthropic이 발표한 장시간 실행 AI 에이전트 문제 해결 방법. 초기화 에이전트와 코딩 에이전트의 역할 분리, git 기반 상태 관리, 테스팅 자동화까지 핵심 인사이트를 정리합니다.
AIAgentLLMAnthropicClaude멀티에이전트에이전트설계AI / AGENT
Apollo-1: The Neuro-Symbolic Foundation Model that Solves Task-Oriented Conversational AI4분AUI가 발표한 Apollo-1은 태스크 지향 대화형 AI를 위한 신경-상징 기반 모델입니다. LLM 에이전트의 한계를 넘어 결정론적 행동 보장을 구현한 새로운 아키텍처를 정리합니다.
AIAgentLLMApollo-1태스크지향AI신경상징추론대화AIAUIAI / ASR
Meta의 Omnilingual ASR: 1,600개 이상의 언어를 지원하는 혁신적인 음성 인식 기술4분Meta FAIR 팀이 발표한 Omnilingual ASR은 1,600개 이상의 언어를 지원하는 오픈소스 음성 인식 시스템입니다. Zero-shot 학습, Bring Your Own Language 기능, Whisper와의 비교까지 정리합니다.
AIASR음성인식Meta다국어오픈소스LLMwav2vecAI / LLM
LLM도 '브레인 롯(Brain Rot)'에 걸릴 수 있을까?3분저품질 웹 텍스트(정크 데이터)에 지속적으로 노출된 LLM의 인지 능력이 저하된다는 'LLM 브레인 롯 가설' 논문을 리뷰합니다. 추론 능력 저하, 안전성 문제, 성격 변화까지 충격적인 실험 결과를 정리합니다.
AILLM논문리뷰브레인롯데이터품질AI안전성사전학습AI / AGENT
AI Models Need a Virtual Machine3분AI 모델을 위한 새로운 소프트웨어 실행 계층 MVM(Model Virtual Machine)의 필요성을 살펴봅니다. MCP, LangChain 등 기존 시도들과 함께 AI 실행 환경의 미래를 정리합니다.
AIAgentLLMMVMMCP실행환경보안아키텍처AI / Inference
Efficient Memory Management for Large Language Model Serving with PagedAttention4분vLLM의 핵심 알고리즘 PagedAttention 논문 리뷰. KV cache를 OS의 가상 메모리처럼 관리해 기존 시스템 대비 2~4× 처리량 향상을 달성한 방법을 정리합니다.
AILLM논문리뷰vLLMPagedAttentionKV cache메모리관리서빙프로젝트 / tour
프로젝트 3 - 관광 활성화를 위한 거대 언어 모델 및 RAG 파이프라인 연구 후기3분일본인 관광객을 위한 온디바이스 RAG 시스템 구축 연구 후기. Qwen3-4B 모델 선정부터 앙상블 RAG 파이프라인 설계까지, 연구지원 프로그램 우수상 수상 연구를 공유합니다.
AILLMRAGQwen온디바이스관광일본어프로젝트연구프로젝트 / tour
프로젝트 2 - 모델 선정(한국어, 일본어, 속도 비교)1분일본인 관광 안내 서비스를 위한 온디바이스 LLM 선정 과정. 5개 3~4B 모델의 한국어/일본어 MMLU 성능과 vLLM 속도를 비교하여 최적 모델을 선정합니다.
AILLM모델선정온디바이스Qwen한국어일본어프로젝트AI / AGENT
Agent란 무엇일까?3분AI Agent의 정의와 역사, 그리고 LangChain, AutoGPT, CrewAI 등 초기 에이전트 툴들의 등장과 한계, MCP와 A2A로 이어지는 에이전트 생태계의 발전을 정리합니다.
AIAgentLLMMCPA2A멀티에이전트LangChainAI / LLM
Reasoning Models Don't Always Say What They Think4분추론 모델의 CoT가 실제 내부 추론을 충실히 반영하지 않을 수 있다는 Anthropic의 연구를 살펴봅니다.
AILLM논문리뷰CoTAI안전성추론모델AI / LLM
Chain-of-Tools: Utilizing Massive Unseen Tools in the CoT Reasoning of Frozen Language Models4분동결된 언어 모델이 학습 데이터에 없던 미사용 도구까지 CoT 추론 과정에서 활용할 수 있도록 하는 Chain-of-Tools 방법론을 소개합니다.
AILLM논문리뷰CoTTool LearningCoToolsAI / LLM
Overtrained Language Models Are Harder to Fine-Tune (과잉 훈련 재앙)3분사전 학습을 과도하게 진행하면 오히려 미세조정 성능이 저하된다는 '재앙적 과훈련' 현상을 다룬 논문을 살펴봅니다.
AILLM논문리뷰Fine-Tuning사전학습프로젝트 / tour
[Toy Project] 관광 활성화를 위한 거대 언어 모델 및 RAG 활용 계획2분K-Culture 관광 데이터를 활용한 일본어 RAG 파이프라인 및 어플리케이션 개발 toy project 계획을 소개합니다.
프로젝트RAGLLM관광일본어ToyProjectAI / AGENT
MCP 업데이트 : OAuth 2.1, 스트리머블 HTTP, 도구 주석2분Anthropic이 발표한 Model Context Protocol(MCP) 최신 업데이트 핵심 변경 사항을 정리합니다.
AIMCPAgentClaudeLLM개발 / HW
AI 가속기 시리즈 - Intel Gaudi (2)2분Intel Gaudi2에서 vLLM-fork를 활용하여 LLM 추론 서버를 구축하는 방법을 소개합니다.
AIGaudivLLMIntelLLMAI가속기추론AI / LLM
EXAONE-Deep : 국내 최초 Notable AI Models 등재 추론 모델3분LG AI 연구원이 공개한 오픈소스 추론 모델 EXAONE-Deep의 학습 방식과 사용법을 살펴봅니다.
AILLMEXAONE추론모델오픈소스논문리뷰AI / LLM
추론 모델을 구현해보자! (ft. S1, Budget Forcing)6분Test-Time Scaling 기법을 활용해 추론(Reasoning) 모델을 직접 구현해봅니다. CoT 프롬프팅부터 Budget Forcing, LoRA 파인튜닝까지.
AILLMReasoning추론모델EXAONES1LoRAFine-tuning개발 / HW
AI 가속기 시리즈 - Gaudi (1)3분Local LLM 시대의 대안 하드웨어, 인텔 Gaudi 시리즈의 특징과 NVIDIA GPU와의 비교를 살펴봅니다.
AIGaudiNPUIntelLLMAI가속기AI / LLM
Transformer-XL: Attentive Language Models Beyond a Fixed-Length Context3분고정된 문맥 길이 한계를 극복하고 장기 의존성 학습의 새로운 가능성을 연 Transformer-XL 논문을 살펴봅니다.
AITransformer논문리뷰LLMAI / LLM
Improving Language Understanding by Generative Pre-Training : GPT의 시작4분현재 GPT 시대의 출발점이 된 GPT-1 논문을 살펴봅니다.
AIGPT논문리뷰LLMAI / LLM
DeepSeek R1 : 강화학습으로 세상을 뒤흔든 모델2분강화학습 기반 Post-Training으로 주목받은 DeepSeek R1의 학습 방식과 성능을 살펴봅니다.
AIDeepSeekLLM강화학습논문리뷰AI / LLM
Titans: Learning to Memorize at Test Time5분트랜스포머에 신경 기억 레이어를 추가하여 장단기 기억을 모두 효율적으로 처리하는 Google의 Titans 아키텍처를 살펴봅니다.
AITitansLLM논문리뷰MemoryAI / LLM
BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding4분양방향 트랜스포머 기반의 언어 모델 BERT를 소개한 논문을 살펴봅니다.
AITransformer논문리뷰LLMBERTAI / LLM
Attention Is All You Need : AI 혁명의 시작4분현 시대 생성형 AI의 모태가 되는 Transformer 아키텍처를 제안한 논문을 살펴봅니다.
AITransformer논문리뷰LLM