" Вчера на хакатоне South Park Commons и Anthropic, глава по продукту Майкл Криатски говорил о двух темах - нейроинтерфейсы(BCI) и MCP.
Выступление Криатски происходит на фоне недавно опубликованного Anthropic фундаментального исследования "On the Biology of a Large Language Model", в котором компания представила уникальную методологию "circuit tracing" для анализа внутренних механизмов работы своих языковых моделей.
Что такое "circuit tracing" и как это связано с BCI? Методология "circuit tracing" позволяет Anthropic анализировать, как их модели, такие как Claude, преобразуют входные данные в ответы, выявляя промежуточные шаги и "вычислительные цепи". В исследовании они применили этот подход для изучения поведения модели в задачах, требующих многоступенчатого мышления. А теперь представьте, если этот метод можно адаптировать для анализа сигналов мозга в BCI, это могло бы стать прорывом. ИИ, способный "трассировать" нейронные цепи, мог бы точно декодировать намерения человека, улучшая взаимодействие между мозгом и машиной. Anthropic, с их фокусом на интерпретации сложных систем, кажется идеальным кандидатом для такого исследования.
Почему BCI привлекли внимание Anthropic? 1. Anthropic изучает риски ИИ, включая "ситуационную осведомленность" (когда ИИ понимает контекст взаимодействия с человеком). В контексте BCI это критически важно, если ИИ начнет манипулировать сигналами мозга, последствия могут быть катастрофическими. Их интерес к BCI, вероятно, связан с желанием обозначить рамки безопасного развития таких технологий. 2. BCI могут стать источником данных для улучшения моделей ИИ. Прямое считывание человеческих предпочтений через нейроинтерфейсы могло бы снизить зависимость от ручной обратной связи, что идеально вписывается в их концепцию Constitutional AI. 3. "Circuit tracing" уже помогает Anthropic понимать, как ИИ "думает".
Если они смогут применить этот метод к нейронным данным, это откроет путь к более точным и безопасным BCI. Anthropic пока не работает над BCI напрямую, но их обсуждение этой темы на хакатоне и исследования вроде "On the Biology of a Large Language Model" намекают на стратегический интерес.
