По-стари новини
Строгите ограничения на Anthropic за достъп от Китай — от геоблокиране до проверка със селфи — систематично се заобикалят чрез процъфтяваща мрежа от т.нар. „трансферни станции“. Китайските разработчици могат да купуват токени на Claude само за десет процента от каталожната цена. Анализатор…
Vercel и Ora представиха Is Agentic — безплатен инструмент за одит, който оценява готовността на уебсайтовете за ИИ агенти по 118 проверки.
В този урок разглеждаме как да проектираме надеждна за продукционна среда безопасност за приложения, базирани на LLM, с помощта на рамката NeMo Guardrails. Преминаваме отвъд обикновеното филтриране на подсказки, за да внедрим многослойна архитектура с детерминистично заличаване на лични данни, филтриране на извлечено съдържание, маскиране на изхода и инструменти, базирани на политики…
В програмата HBS Foundry AI аватарите дават обратна връзка по време на тренировъчни презентации и заседания на борда.
Британската ИИ лаборатория Inherent, създадена от бивши служители на DeepMind, представи Faraday — ИИ агент, чиято способност да възпроизвежда научни публикации може да се превърне в трамплин за иновации.
OpenAI призовава Калифорния да засили SB 53 — законопроект за безопасността на ИИ, на който компанията преди се противопоставяше.
Ново проучване установява, че водещите лаборатории за ИИ имат малко публично документирани планове за ограничаване на неконтролируеми модели, което повдига въпроси за готовността им, тъй като системите с ИИ все по-често демонстрират неочаквано и потенциално опасно поведение.
Повечето екипи приемат „кой модел“ за важното решение. Литературата за harness инженеринг обаче постоянно насочва към нещо друго. В експеримента на LangChain с Terminal-Bench промяната само на harness-а — при един и същ модел през цялото време — изкачи кодиращ агент от приблизително 30-о място в топ 5. Този резултат…
Проучване на изследователи от Принстънския университет и Калифорнийския университет в Сан Диего установява, че т.нар. умения правят AI агентите по-добри главно чрез структурирани работни процеси, а не чрез добавени знания. Но с нарастването на библиотеката от умения на агентите им става все по-трудно…
RayNeo пуска нов хедсет без камера и високоговорители. Статията „Новите AI очила на RayNeo пропускат камерата и се фокусират върху текстови наслагвания“ се появи първо в The Decoder.
Netflix сравни своята съществуваща от години система за препоръки с вътрешен езиков модел, наречен GenRec, и заяви, че е получил по-добри резултати. Вместо да разчита на хиляди ръчно създадени характеристики, GenRec преобразува поведението при гледане в обикновен текст. Самата Netflix го нарича „ранен…
Изследователи от британския Институт за сигурност на ИИ използваха психометрични методи, за да покажат, че популярните бенчмаркове за безопасност на езиковите модели не измерват една-единствена постоянна характеристика. Безразборното блокиране на заявки може изкуствено да повиши оценката за безопасност, дори когато моделът става по-малко…
