В этом выпуске обсуждаем безопасность AI-агентов: как происходят атаки через tool-calling и промпт-инъекции, и какие угрозы несут недобросовестные тулы и галлюцинации моделей. Разбираемся, что такое MCP-сервера, «USB-C для LLM» и почему одна невинная команда может привести к взлому или утечке.

В гостях Ильдар Исхаков – основатель компании по безопасности AI-агентов и фанат опенсорса. Ильдар рассказал о концепции «летальной триады» и о том, как сохранить баланс между функциональностью и безопасностью с помощью readonly-режимов, guardrails и паттернов вроде CAMEL.


Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях! 
Telegram-чат: https://t.me/podlodka  
Telegram-канал: https://t.me/podlodkanews 
Страница в Facebook: www.facebook.com/podlodkacast/ 
Twitter-аккаунт: https://twitter.com/PodcastPodlodka  

Ведущие в выпуске:
Стас Цыганов, Аня Симонова

Полезные ссылки:

Archestra.AI
https://archestra.ai

Блог Simon Willison
https://simonwillison.net/2025/Sep/18/agents/ 

Статья “Why AI systems may never be secure, and what to do about it”
https://www.economist.com/science-and-technology/2025/09/22/why-ai-systems-may-never-be-secure-and-what-to-do-about-it 

Статья “Anthropic: How we built our multi-agent research system”
https://simonwillison.net/2025/Jun/14/multi-agent-research-system/ 

Статья “An Introduction to Google’s Approach to AI Agent Security”
https://simonwillison.net/2025/Jun/15/ai-agent-security/ 

Google's Approach for Secure AI Agents
https://research.google/pubs/an-introduction-to-googles-approach-for-secure-ai-agents/ 

Статья “Design Patterns for Securing LLM Agents against Prompt Injections”
https://simonwillison.net/2025/Jun/13/prompt-injection-design-patterns/

Код для статьи "Defeating Prompt Injections by Design"
https://github.com/google-research/camel-prompt-injection 

Статья “CaMeL offers a promising new direction for mitigating prompt injection attacks“
https://simonwillison.net/2025/Apr/11/camel/ 


Podlodka #446 – AI-агенты и безопасность

В этом выпуске разобрались, почему важно управлять людьми бережливо, и чем бережливое управление отличается от бережного. Гость поделился, что его зацепило в теме выгорания руководителей и почему важно рассматривать это не только как личную проблему, но и как организационный сбой. Конечно же, поговорили про переработки: в каких количествах они допустимы, а в каких уже нет. Обсудили подходы к человекоцентричному управлению и, наконец, то, почему счастье сотрудников – это не просто красивый лозунг, а экономически выгодная стратегия.


Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях! 
Telegram-чат: https://t.me/podlodka  
Telegram-канал: https://t.me/podlodkanews 
Страница в Facebook: www.facebook.com/podlodkacast/ 
Twitter-аккаунт: https://twitter.com/PodcastPodlodka

Ведущие в выпуске:
Аня Симонова, Андрей Смирнов, Стас Цыганов

Полезные ссылки:

Пост в telegram-канале “Тру финансы” со ссылками на обе книги Александра
https://t.me/truefinance/1602 


Статьи Александра на Хабре
https://habr.com/ru/users/Sertakov83/articles/


Podlodka #447 – Бережливое управление людьми

Даже если вы пишете идеальный код, это не значит, что ваш продукт в безопасности. Уязвимости может притащить кто-то другой – начиная от open source библиотек, и заканчивая уязвимостями в компиляторах, CI и VCS системах. Как научиться защищать не только код, вышедший из под ваших рук, но и всю цепочку поставки, нам рассказал Алексей Смирнов, основатель платформы CodeScoring. 

Партнёр команды Podlodka — наши давние друзья @AvitoTech. Это команда с крутыми процессами, культурой здравого смысла и эксперимента. Узнать про их технологии, подходы и прокачку компетенций в командах можно по ссылкам:
— LLM против хаоса: как я автоматизировал ревизию прав доступа в админке Авито https://clc.to/RVjkQw 
— LLM в кибербезопасности https://clc.to/mvLjSA 

Реклама. ООО "Авито Тех”, ИНН 9710089440, erid:2SDnjdq5TKm

Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях! 
Telegram-чат: https://t.me/podlodka  
Telegram-канал: https://t.me/podlodkanews 
Страница в Facebook: www.facebook.com/podlodkacast/ 
Twitter-аккаунт: https://twitter.com/PodcastPodlodka  

Ведущие в выпуске:
Евгений Кателла, Егор Толстой

Полезные ссылки:

Supply-chain Levels for Software Artifacts, or SLSA
https://slsa.dev/ 

Shai-Hulud npm vulnerability
https://www.truesec.com/hub/blog/500-npm-packages-compromised-in-ongoing-supply-chain-attack-shai-hulud

Таксономия атак на цепочку поставки ПО
 https://vkvideo.ru/video-229013285_456239031

AI-Enhanced DevTools & DevOps 
https://vkvideo.ru/video-22522055_456245659?t=2h34m17s

Исследования от Luntry 
https://luntry.ru/research 

Исследование уязвимостей GenAI от Veracode 
https://www.veracode.com/wp-content/uploads/2025_GenAI_Code_Security_Report_Final.pdf 

О черве Shai-Hulud 
https://securelist.ru/shai-hulud-worm-infects-500-npm-packages-in-a-supply-chain-attack/113533/ 

Метод-фреймворк защиты цепочки поставки SLSA
https://slsa.dev/ 

Доклад "Таксономия атак на цепочку поставки ПО"
https://vkvideo.ru/video-229013285_456239031 

Доклад "Безопасная разработка в эпоху GenAI"
https://vkvideo.ru/video-229013285_456239040 

Другие доклады про безопасность использования Open Source
https://youtube.com/@codescoring 
https://vkvideo.ru/@codescoring 

Платформа безопасной разработки CodeScoring
https://codescoring.ru/ 

Книга "Прозрачное программное обеспечение: Безопасность цепочек поставок ПО"
https://www.piter.com/product/prozrachnoe-programmnoe-obespechenie-bezopasnost-tsepochek-postavok-po 

Podlodka #448 – Supply Chain Security

В этом выпуске обсуждаем криптофинансы: зачем вообще нужен блокчейн в мире, где уже всё работает через банки и SWIFT, как устроены кастодиальные и некастодиальные кошельки, и почему крипта — это не только про спекуляции. Говорим о том, как бизнесу защититься от потери ключей, на чём зарабатывают DeFi-протоколы, чем обеспечиваются токены и почему ставки по вкладам в крипте так далеки от привычных фиатных.

В гостях Александр Тоболь, технический директор Кошелька в Telegram и бывший CTO VK. Александр рассказал, как устроены криптосервисы изнутри, что происходит с ликвидностью на биржах и почему, даже если у тебя есть все технические знания, поднимать собственного валидатора чаще всего не стоит.


Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях! 
Telegram-чат: https://t.me/podlodka  
Telegram-канал: https://t.me/podlodkanews 
Страница в Facebook: www.facebook.com/podlodkacast/ 
Twitter-аккаунт: https://twitter.com/PodcastPodlodka  

Ведущие в выпуске:
Стас Цыганов, Евгений Кателла


Podlodka #449 – Криптофинансы

Все говорят о доказательной медицине, но мало кто может объяснить, что это вообще такое. Чем «доказательная» отличается от «научной» и «традиционной», и зачем проверять то, что «и так работает»? В этом выпуске разбираемся в том, как устроены клинические исследования: чем причинно-следственная связь отличается от корреляции, что такое клинически значимый эффект, почему «кому-то помогло» ещё не является весомым доказательством, и почему даже хорошие исследования иногда дают противоположные результаты.

Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях! 
Telegram-чат: https://t.me/podlodka  
Telegram-канал: https://t.me/podlodkanews 
Страница в Facebook: www.facebook.com/podlodkacast/ 
Twitter-аккаунт: https://twitter.com/PodcastPodlodka

Ведущие в выпуске:
Аня Симонова, Стас Цыганов, Андрей Смирнов

Полезные ссылки:

YouTube Александра
www.youtube.com/@Scinquisitor

Сайт, где можно купить билеты на ближайшие лекции
https://alexanderpanchin.com/

Настольная игра "Научный апокалипсис"
https://scientificapocalypse.com/ 

Telegram-канал
https://t.me/ScienceInquisition

Instagram*
https://instagram.com/panchin.nauka/

Tik-tok
https://www.tiktok.com/@panchin.nauka 

*Компания Meta (соцсети Facebook и Instagram) признана экстремистской и её деятельность запрещена в РФ


Podlodka #450 – Докмед

Казалось бы, для AI вычислений нужно просто очень-очень много GPU. Почему же тогда техногиганты, обладая почти безграничными ресурсами, не строят эту инфраструктуру сами, а платят миллиарды долларов новым, молодым компаниям? Чтобы разобраться в этом, мы позвали Александра Патрушева, Head of Product в Nebius — том самом неоклауде, который недавно заключил сделку с Microsoft почти на $20 миллиардов.

В выпуске разбираемся, в чем фундаментальное отличие AI-облаков от классических, что из себя представляет карта рынка сегодня, как устроена экономика неоклаудов и что у них под капотом: какие есть особенности устройства сети, хранения данных и эксплуатации всего этого добра.

Партнёр команды Podlodka — наши давние друзья @AvitoTech. Это команда с крутыми процессами, культурой здравого смысла и эксперимента. Узнать про их технологии, подходы и прокачку компетенций в командах можно по ссылкам: 
– Помогаем пользователям следить за ресурсами в DBaaS 
https://clc.to/6e8khw 
– Redis под прессом: или как мы отказывались от репликации
https://clc.to/SQs49w 
– Как мы Apache Kafka и Pulsar на Redpanda меняли 
https://clc.to/eaiT0w 

Реклама. ООО "Авито Тех”, ИНН 9710089440, erid:2SDnjerHHqy

Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях! 
Telegram-чат: https://t.me/podlodka  
Telegram-канал: https://t.me/podlodkanews 
Страница в Facebook: www.facebook.com/podlodkacast/ 
Twitter-аккаунт: https://twitter.com/PodcastPodlodka

Ведущие в выпуске:
Катя Петрова, Аня Симонова

Полезные ссылки:

Статья “AI Neocloud Playbook and Anatomy”
https://semianalysis.com/2024/10/03/ai-neocloud-playbook-and-anatomy/ 

Сайт Nebius
https://nebius.com/economics-of-ai-clusters-whitepaper

Статья “The GPU Cloud ClusterMAX™ Rating System | How to Rent GPUs”
https://semianalysis.com/2025/03/26/the-gpu-cloud-clustermax-rating-system-how-to-rent-gpus/

Podlodka #451 – Облака для AI вычислений

Apple Treats discusses how apps communicate with accessories and other devices – Bluetooth, WiFi, NFC and all in between. 


Guest: Tatyana Chunikhina, Senior iOS Developer at Quartett Mobile

Linktree: https://linktr.ee/AppleTreats

Communications

Продолжаем погружение с Владиславом Танковым! С устройством LLM мы уже разобрались, а теперь пора разобраться, гонять ли инференс локально или в облаке, какие модели брать, и во что можно упереться при масштабировании своего сервиса на LLM!


Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях! 
Telegram-чат: https://t.me/podlodka  
Telegram-канал: https://t.me/podlodkanews 
Страница в Facebook: www.facebook.com/podlodkacast/ 
Twitter-аккаунт: https://twitter.com/PodcastPodlodka   

Ведущие в выпуске:
Женя Кателла, Андрей Смирнов


Podlodka #452 – Архитектура LLM-приложений

Что такое рынки предсказаний, и почему они удивительно точно предсказывают будущее? Обсуждаем, как работает механизм вероятностной цены, зачем рынкам нужны реальные деньги, как они справляются (или не справляются) с инсайдерской торговлей и манипуляциями.

В гости к нам пришел Никита Поваров, который сейчас руководит командой аналитики в JetBrains и почти два года развивает корпоративный рынок предсказаний внутри компании. Так что не обошли стороной феномен корпоративных рынков предсказаний и разобрались, можно ли использовать их как инструмент для A/B-тестов и сколько участников нужно для хорошего прогноза.

Обратите внимание на секцию полезных ссылок. Сегодняшний гость приложил внушительный список дополнительных материалов.


Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях! 
Telegram-чат: https://t.me/podlodka  
Telegram-канал: https://t.me/podlodkanews 
Страница в Facebook: www.facebook.com/podlodkacast/ 
Twitter-аккаунт: https://twitter.com/PodcastPodlodka  

Ведущие в выпуске:
Cтас Цыганов, Егор Толстой,

Полезные ссылки:

Статья Гальтона в журнале “Природа” с названием Vox populi (про вес быка)
https://web.mit.edu/curhan/www/docs/Articles/15341_Readings/Collective_Intelligence/Galton_1907_Vox_Populi.pdf

Статья 2014 года с пересчётом результатов данных исследования Гальтона про “мудрость толпы”
https://projecteuclid.org/journals/statistical-science/volume-29/issue-3/Revisiting-Francis-Galtons-Forecasting-Competition/10.1214/14-STS468.pdf

Подробный рассказ что такое вероятности и как с ними обращаться практически
https://youtu.be/wcIW6wwkbYA?si=6XjbNdyNUw6TRxDl

Must watch рассказ от Robin Hanson про prediction markets. Почему они работают и как их использовать
https://youtu.be/4yZKGbq1YmA

Исследование о том, что prediction markets лучше отдельных экспертов
https://www.pnas.org/doi/10.1073/pnas.1516179112

Статья про то, что много участников в отдельном рынке не нужно
https://www.ubplj.org/index.php/jpm/article/download/418/449/1316

Эмпирика, что можно и без денег в Prediction Markets
https://users.nber.org/~jwolfers/papers/DoesMoneyMatter.pdf

Описание успехов корпоративных рынков предсказаний. В Google и других компаниях
 https://www.jstor.org/stable/43869468

Качество предсказаний популярного рынка предсказаний, работающего без денег, Manifold
https://manifold.markets/calibration


Podlodka #453 – Рынки предсказаний

Уже понятно, что будущее ИИ не в умении правильно отвечать на пользовательские хитрые вопросы, а в способности автономно решать многоступенчатые и сложные задачи. Вместе с Семёном Карасиком из Nebius в этом выпуске мы выясняем, что отличает агента от обычного ChatGPT, и как сделать своего цифрового джуна!

Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях! 
Telegram-чат: https://t.me/podlodka  
Telegram-канал: https://t.me/podlodkanews 
Страница в Facebook: www.facebook.com/podlodkacast/ 
Twitter-аккаунт: https://twitter.com/PodcastPodlodka

Ведущие в выпуске:
Женя Кателла, Катя Петрова

Podlodka #454 – SWE-агенты

Совершенно внезапно ведущие вспомнили, что с того момента, как начался второй сезон подкаста, прошло уже больше года. Причем выпусков в нем уже почти в два раза больше, чем в первом сезоне, есть даже один выпуск на английском!! Поэтому было принято решение сделать небольшой перерыв, после которого стартануть третий сезон в чуть измененном формате, но это в будущем, а пока надо заканчивать текущий 🙂

В связи с этим, ведущие достают из бэклога тему, которую давно планировали обсудить, а именно Server Driven UI, а гостем выпуска становится Алексей Глухарев, Android Team Lead в Nova Ocean, знакомый с этим подходом не понаслышке.

Сначала ведущие притворяются несведущими и просят объяснить, в чем же, собственно, заключается подход SDUI, а потом уже переходят к деталям: на чем лучше реализовывать подобный подход (натив, Flutter, ReactNative), как определять действия по кнопкам, как строить архитектуру, как тестировать, какие есть риски при прохождении App Review, ну и, конечно, обсуждают кейсы, когда подход можно применять, а когда нет.

Закончив выпуск анонсом предстоящих конференций, ведущие отправляются в отпуск!

Конференция Mobile Optimized: https://moconf.dev/#tickets
Промокод для покупки билета: mo4mobilepeople

Server Driven UI

Mobile People Talks — подкаст про мобильную разработку. И все остальное.
Так что если вы не мобильный разработчик, не спешите закрывать страничку – разные выпуски имеют разные уровни погружения и будут интересны разработчикам с разным стажем и степенью мобильности).
Хочется надеяться, что подкаст станет регулярным ресурсом, который поможет вам создавать лучшие приложения и продвигать их более эффективно, так как всегда есть место для роста экспертизы в мобильной разработке, учитывая сложный характер этой отрасли. 
 
Ведущие подкаста — разработчики с большим опытом и стажем, каждый из которых представляет свою область мобильной разработки:
 
Александр Денисов, организатор GDG Moscow, создатель канала FlutterRussia, Co-Head of Flutter Competency in EPAM
Flutter and Dart GDE (Google Developer Expert)
Twitter: https://twitter.com/shuregdenisov
Telegram: t.me/aleksandr_denisov (группа: t.me/FlutterRussia)
Email: denisov.shureg@gmail.com
 
Владимир Иванов, активный спикер, член программного комитета Mobius 
Twitter: twitter.com/vvsevolodovich
Telegram: t.me/vvsevolodovich
 
Данис Тазетдинов, драйвер мобильного комьюнити EPAM, евангелист платформ Apple, автор канала о новостях в мире iOS разработки
Telegram: t.me/edeniska (канал: t.me/AppleDevNews)
Twitter: twitter.com/edeniska
Email: edeniska@gmail.com
 
У подкаста есть свой канал: t.me/MobilePeopleTalks, а еще нам можно написать по почте mobilepeopletalks@gmail.com