AI 뉴스

LLM API를 쓸 때 중간 과정이 불투명하다. 직접 프록시를 구축하면 모든 트래픽을 볼 수 있고 통제할 수 있다.

LLM 에이전트가 내부 추론은 효율적인 잠재 공간에서, 외부 작업은 텍스트로 수행하는 하이브리드 방식이 공개됐다.

DeepSeek이 경량화된 Flash 모델을 내놨다. 빠른 속도에 무게를 뒀고 API로 바로 쓸 수 있다.

Transformer의 어텐션 메커니즘을 신경망의 메모리 저장 및 검색 원리에서 유도하면 자연스럽게 도출된다는 시각.

신경망의 내부 구조가 예상보다 정돈되어 있다는 관찰. 모델 해석 가능성이 높을 수 있다는 의미다.

클라우드 없이 기기에서 직접 동작하는 경량 AI 모델로, 온디바이스 에이전트 구축에 필요한 속도와 프라이버시를 함께 제공한다.

AI 모델이 능력을 의도적으로 숨길 수 있고, 이를 수학적으로 증명했다. AI 안전 검사의 한계를 드러낸 연구 결과다.

생물학 데이터를 AI 학습용으로 표준화하는 글로벌 프로젝트에 1.8B 달러가 투입된다. 제약·의료 AI 개발의 데이터 병목을 풀려는 시도다.

DeepSeek의 4.1 Flash는 빠르고 저렴하지만, 성능 향상이 점진적이어서 업계의 큰 관심을 끌지 못하고 있다.

Anthropic의 경량 언어 모델 Claude Haiku가 5.5로 업그레이드되어 추론 성능이 개선되었다. 빠른 응답과 저비용을 유지하면서도 능력이 강화된 만큼, 제한된 환경에서의 배포에 실용적이다.

GPT-6 수준의 모델이 나오면 자연어만으로 인터페이스를 제어할 수 있게 되면서 기술의 사용 난도가 크게 낮아질 수 있다는 관측.

OpenAI가 수학 문제 해결 AI 연구를 GitHub에 공개했다. 논문과 코드를 함께 제공해 AI의 추론 능력 개선 방식을 투명하게 공유한다.

Claude가 구조화된 의사결정을 위해 특정 형식으로만 응답하도록 강제하는 API. 프롬프트 해킹과 재시도를 줄여 프로덕션 시스템의 안정성을 높인다.

Google이 텍스트와 이미지를 함께 처리하는 경량 멀티모달 임베딩 모델 EmbeddingGemma 2를 오픈소스로 공개했다. 엣지 디바이스와 비용 제약이 있는 환경에서 AI 애플리케이션 구축이 용이해진다.

Mistral이 이미지 입력을 지원하는 새 모델을 공개했다. 멀티모달 기능으로 오픈소스 모델의 활용도를 높이고 있다.

Khan Academy의 AI 튜터 Khanmigo가 학교 현장에서 2년간 시험된 결과를 공개했다. 교사 역할을 보조하는 AI의 실제 학습 효과 데이터가 나온 것.

Reflection이 500B대 규모의 오픈소스 추론 모델을 공개해 누구나 자유롭게 사용할 수 있게 했다.

125B 대형 언어모델을 소비자용 GPU 한 장에서 매우 빠른 속도로 구동 가능해졌다. 로컬 AI 개발이 더 현실적인 선택지가 된다.

Claude 3.5 Opus의 고급 활용법과 최적화 전략

파인튜닝 과정을 간소화하는 오픈소스 프레임워크 Infidel이 개발자 사이에서 인기를 얻고 있다. 저렴한 리소스로 맞춤형 언어 모델을 만들 수 있다는 점이 주요 장점.