АйPulatov

7 февраля 2025 года на саммите AI Action Summit в Париже (Политехнический университет)  был представлен первый Международный доклад по безопасности ИИ. Его подготовили 96 ведущих экспертов из 30 стран при поддержке ООН, ЕС и ОЭСР. Главный инициатор доклада – Йошуа Бенжио, профессор Монреальского университета и лауреат премии Тьюринга.

Цель доклада – сформировать понимание рисков, связанных с развитием искусственного интеллекта, и предложить методы их оценки и управления. 

Вообще весь AI Саммит посвящен больше безопасности от искусственного интеллекта, чем о его возможностях.

Потому что возможности уже можно прогнозировать достаточно смело:  потенциал AI растет стремительно - он уже способен выполнять сложные задачи без помощи человека, ему не нужны промтеры. 

Пока все баловались  в фейки и манипуляции, особо волноваться было не о чем. Но возможности искусственного интеллекта вышли за эти рамки. 

Сейчас вопросы стоят посерьезнее: 

Кибератаки и взломы с помощью ИИ,
Разработка биологического оружия,
Вероятность потери контроля над продвинутыми ИИ-агентами.

Эксперты расходятся во мнениях. Одни считают, что катастрофические сценарии маловероятны в ближайшее время, другие предупреждают о возможных необратимых последствиях уже в ближайшие годы.

Управление рисками должно выйти на новый уровень, потому что не все дыры в AI можно прогнозировать. 

Открытые модели (open-weight) создают дополнительные угрозы безопасности.
А компании и правительства пока не готовы к резким скачкам возможностей ИИ.

Что дальше?

Доклад призывает к международному сотрудничеству и строгому регулированию. Всем надо найти  баланс между развитием технологий и их безопасностью.

Все чаще думаю, что в будущем самая главная сфера для бизнеса будет Маркетинг — смотрите:

Я тоже поигрался с новым ChatGPT Canvas на o1

1) Скормил ей список слов которые повторяю по-английски и попросил сделать карточки для запоминания (я записываю слова которые хочу добавить в словарный запас, вот этот список и скормил, описания слов она сама добавила)

2) Получил вот такую страницу:
https://shir-man.com/vocab/

То есть, какие выводы:
— Я не пошел в приложение Anki или аналоги по изучению языка, куда вбивал бы эти слова руками
— Эти приложения не получили возможность продать мне подписку или платную фичу, потому что я решил задачу без них

Количество таких задач, которые можно будет решать не устанавливая приложения и не покупая софт будет только расти; внедрение этой мысли, что «под себя можно создать софт и не платить» займет какое-то время, но в итоге это будет стандартная мысль пользователя, так как она экономит деньги (а такие мысли быстро приживаются).

Вы же сами видели как от неуклюжих попыток сделать «змейку», нейронки дошли до сложных проектов на любом языке программирования — это только начало

В итоге, мы уже попали в мир где многие задачи (не все), можно решать за подписку в 20$ в месяц или дешевле. И какая новая главная проблема в таком мире?

Как продать софт человеку (речь про любую монетизацию, включая показ рекламы и тп) — конкуренция для продуктовых команд будет сильно расти; в итоге, мне кажется, софт который будут покупать — будет сложным и нишевым, большая половина SaaS компаний сильно подешевеет, а те, кто будут развивать маркетинг как главный драйвер бизнеса, изучать как он меняется в комбинации с АИ — сильно выиграют долгосрочно — потому, что стоимость внимания пользователя будет только расти


А что с b2b?

Возьмём, к примеру, сложные корпоративные решения в сфере финансов или здравоохранения. Там необходима соответствующая сертификация, безопасность и поддержка 24/7. Даже если на рынке появятся дешёвые ИИ-инструменты, способные частично решать те же задачи, крупные клиенты не станут рисковать без веских гарантий и проверенной репутации поставщика. Но это лишь усиливает мой тезис: в условиях растущей конкуренции (в том числе и среди специализированных решений) главным драйвером бизнеса будет становиться маркетинг — ему придётся доказывать, что именно выше ПО и наша компания наиболее надёжны, удобны и стоят своих денег, потому что нишевые b2b-решения будут тоже расти как грибы из-за снижения порога входа в продуктовую разработку

tldr: через 5 лет, главные в digital бизнесе будут — маркетологи ☕️