AIRu

📌 Дайджест за прошедшую неделю Собрали для вас главные новости прошедшей недели. 1️⃣ В ООН заговорили об экзистенциальной угрозе ИИ ⚠️ В ООН заявили, что неконтролируемое развитие искусственного интеллекта может представлять угрозу для человечества. Вопрос безопасности продвинутых AI-систем все заметнее выходит на уровень международной политики. 2️⃣ Нобелевский лауреат Хинтон снова предупреждает об опасности ИИ 🧠 Один из пионеров машинного обучения Джеффри Хинтон считает, что развитие сверхразумных систем может поставить под угрозу существование человечества. Его прогнозы спорны, но хорошо показывают масштаб дискуссии вокруг контроля над следующими поколениями ИИ. 3️⃣ Создатель «Яндекса» усиливает партнерство с разработчиком военного ИИ Компания Nebius Аркадия Воложа расширяет сотрудничество с разработчиком AI-решений, технологии которого используются американскими спецслужбами и военными. Для AI-инфраструктуры государственные и оборонные заказчики становятся все более значимым рынком. 4️⃣ OpenAI заявила о прорыве в одной из «задач тысячелетия» 🧮 Компания сообщила, что ее новая AI-модель смогла получить значимый результат при работе над одной из сложнейших математических проблем. Если выводы пройдут независимую проверку, это станет важным аргументом в пользу использования ИИ как инструмента научных исследований. 5️⃣ Китайские AI-чипы подорожали в полтора раза за два месяца 💰 Производители повышают цены на фоне дефицита высокоскоростной памяти и растущего спроса на вычислительные мощности. Стоимость инфраструктуры остается одним из главных ограничителей масштабирования ИИ. 6️⃣ Человекоподобные роботы впервые вышли на политическую демонстрацию 🤖 Десятки гуманоидных роботов приняли участие в публичной политической акции. Робототехника постепенно выходит из лабораторий и производств в общественное пространство. 7️⃣ Ошибся ИИ – отвечать юристу: Верховный суд предлагает наказания ⚖️ Верховный суд выступил за ответственность юристов при использовании сгенерированных ИИ недостоверных материалов. Для профессиональных сервисов принцип становится все четче: нейросеть помогает готовить результат, но ответственность остается за человеком. 8️⃣ В Китае на улицы вышли роботы-полицейские 👮‍♂️🤖 В Шэньчжэне к патрулированию городских улиц привлекли человекоподобных роботов. Физический ИИ постепенно переходит от демонстраций к работе в реальной городской среде. 9️⃣ Глава Anthropic предупреждает о «рое ИИ», который может захватить интернет 🌐 Дарио Амодеи описал сценарий, при котором множество автономных AI-агентов начнут массово действовать в интернете, и предложил меры для контроля таких систем. С развитием агентного ИИ безопасность становится вопросом не только моделей, но и того, какие действия им разрешено выполнять самостоятельно. 📌Мы понимаем, что слишком много новостей на тему Терминатора. Но ничего не поделаешь, таков нынче новостной фон 🤷‍♂️