vLLM의 PagedAttention으로 GPU 메모리 효율 극대화, LLM 추론 처리량 수배 향상
AI 뉴스
전체 390건 · 페이지 9 / 20
HackerNewsAI 요약
vLLM 심층 분석: 고처리량 LLM 추론 시스템의 구조news.google.comAI 요약
Claude vs Gemini vs ChatGPT, 2026년 출력 가격 격차 $18까지 벌어진다2026년 Claude·Gemini·ChatGPT 출력 가격 최대 $18 차이, 성능 차별화 심화
techcrunch.comAI 요약
AWS, 비브 코딩 스타트업 슈퍼블록스 지원…앱-모델 분리 시대 본격화AWS가 슈퍼블록스 저코드 도구를 프라이빗 클라우드 지원으로 앱-모델 분리 가속
techcrunch.comAI 요약
호프만·핑커스가 세운 AI 랩 'Prentis', 1억 달러 펀딩 협상 중AI 거장들이 세운 Prentis, 일상 작업 자동화 기술에 1억 달러 투자 추진