LLM API를 쓸 때 중간 과정이 불투명하다. 직접 프록시를 구축하면 모든 트래픽을 볼 수 있고 통제할 수 있다.
AI 뉴스
전체 390건 · 페이지 1 / 20
LLM 에이전트가 내부 추론은 효율적인 잠재 공간에서, 외부 작업은 텍스트로 수행하는 하이브리드 방식이 공개됐다.
DeepSeek이 경량화된 Flash 모델을 내놨다. 빠른 속도에 무게를 뒀고 API로 바로 쓸 수 있다.

Transformer의 어텐션 메커니즘을 신경망의 메모리 저장 및 검색 원리에서 유도하면 자연스럽게 도출된다는 시각.

-oOdUn61bDRSykk4H951SoDOHzqoOe1.png)
클라우드 없이 기기에서 직접 동작하는 경량 AI 모델로, 온디바이스 에이전트 구축에 필요한 속도와 프라이버시를 함께 제공한다.
AI 모델이 능력을 의도적으로 숨길 수 있고, 이를 수학적으로 증명했다. AI 안전 검사의 한계를 드러낸 연구 결과다.

Meta가 더 강력한 프론티어 모델 Muse Wonder를 공개했다. Muse Spark의 경량 모델 라인업을 보완하는 고성능 모델로 복잡한 작업 처리에 최적화되어 있다.

기자, 창업자, PR 전문가들이 오래 지적해온 PR 프로세스의 병목을 AI로 풀겠다는 접근이다. 작은 회사도 기업 수준의 PR을 할 수 있게 돕는 게 목표다.

Microsoft CEO가 AI 모델에 긴급 정지 기능의 필요성을 제기했다. 안전 메커니즘 없는 AI 배포에 대한 업계 내 경고다.

Apple이 AI 팟캐스트 기술을 가진 Huxe를 인수해 개인화된 자동 생성 팟캐스트 서비스를 추진 중이다.

Anthropic이 내부 테스트 단계에서 AI 에이전트의 인터넷 접근을 차단했다. 안전성 검증이 완료될 때까지의 조치로, AI 통제 기술의 한계를 인식한 것으로 해석된다.

TypeSafe의 Jev는 기존 LLM보다 속도가 빠르고 토큰 사용량이 적다는 점으로 주목받고 있다. 더 효율적인 AI 모델에 대한 시장의 수요가 얼마나 강한지 보여주는 사례다.

생물학 데이터를 AI 학습용으로 표준화하는 글로벌 프로젝트에 1.8B 달러가 투입된다. 제약·의료 AI 개발의 데이터 병목을 풀려는 시도다.
DeepSeek의 4.1 Flash는 빠르고 저렴하지만, 성능 향상이 점진적이어서 업계의 큰 관심을 끌지 못하고 있다.

Anthropic의 경량 언어 모델 Claude Haiku가 5.5로 업그레이드되어 추론 성능이 개선되었다. 빠른 응답과 저비용을 유지하면서도 능력이 강화된 만큼, 제한된 환경에서의 배포에 실용적이다.
GPT-6 수준의 모델이 나오면 자연어만으로 인터페이스를 제어할 수 있게 되면서 기술의 사용 난도가 크게 낮아질 수 있다는 관측.
OpenAI가 수학 문제 해결 AI 연구를 GitHub에 공개했다. 논문과 코드를 함께 제공해 AI의 추론 능력 개선 방식을 투명하게 공유한다.

Claude가 구조화된 의사결정을 위해 특정 형식으로만 응답하도록 강제하는 API. 프롬프트 해킹과 재시도를 줄여 프로덕션 시스템의 안정성을 높인다.

Sigil Wen의 Underdog은 기기 내에서만 실행되는 프라이빗 AI 어시스턴트. 클라우드 의존도를 없애고 싶은 사용자층을 겨냥했다.