Laziz Abdullaev

Generative AI qanday ishlaydi?
(rasm yaratuvchi diffuziya modellar misolida)

Faraz qiling, bir kulol ko'za yasayotganda tasodifan ko'za shaklini buzib qo'ydi. Endi uni qayta tiklash uchun buzilgan joyiga loy qo'yib qayta shakl berishga urinadi. Rasm yaratuvchi GenAI ham shunga o'xshash mantiq asosida ishlab chiqilgan. Xususan, bu quyidagi ikki asosiy unsurlardan iborat:

1. Forward Process: shovqin (noise) qo‘shish
Bu jarayonda model rasmlarni buzishni o‘rganadi. U mavjud tasvirlarga oz-ozdan shovqin qo‘shib boradi va oxir-oqibat ularni butunlay tasodifiy shovqinga aylantiradi. Bu foto suratni asta-sekin xiralashtirib, barcha detallarni yo‘qotishga o‘xshaydi (rasmga qarang).

2. Backward Process: shovqinni yo‘qotish
Bu jarayonda haqiqiy "sehr" sodir bo‘ladi. Model teskari yo‘nalishda ishlashni o‘rganadi — ya’ni tasodifiy shovqindan boshlab, har safar shovqinni oz-ozdan yo‘qotib, oxir-oqibat aniq va real tasvir hosil qiladi. Masalan, mushuk rasmini yaratish so'ralganda tasodifiy shovqindan boshlaydi. Forward Process'da orttirgan tajribasiga tayangan holda (masalan uy hayvoni tasviri to'la shovqinga aylanishidan bitta oldingi qadamda tahminan qanday bo'lishini o'rgangan edi) qadamma-qadam shovqinni yo'qotib ma'noli tasvirga erishadi.

Diffuziya modeliga misollar:
🎨 DALL·E 2 – OpenAI
🖼 Imagen – Google

@lazizabdullaev

"Qudratimizga shubha qilsang, biz qurgan imoratlarga boq"

- Amir Singapur

@lazizabdullaev

"US people do AI thing, everybody learn how to do, very good very good!"

- Some Chinese person probably.

@lazizabdullaev

A4 o'lchamli qog'oz tomonlari 210×297 (mm). Nega aynan shunday ekanligi qiziq.

Faraz qiling 2 bet matn print qilmoqchisiz. Buning uchun qog'ozning 2 tomoniga vertikal yoki ikki bet birda (2 pages per sheet) ko'rinishida kichikroq qilib gorizontal joylashtirishingiz mumkin. Agar ikki bet birda chiqartirmoqchi bo'lsangiz ideal holatda matningiz shakli xuddi butun betga joylashganday faqat kichikroq masshtabda bo'lishini xohlaysiz. Ya'ni, agar A4 qog'oz eni A, bo'yi esa B (mm) bo'lsa, yarim bet va butun bet tomonlari nisbati teng bo'lishi kerak:

A/B = (B/2)/A
=> B/A = √2.

Demak, yarim betda nisbat saqlanishi uchun bo'yining eniga nisbati √2 ga teng bo'lishi kerak ekan. Endi tekshirib ko'ramiz:

297/210 = 1.41428...
√2 = 1.41421...

Yetarlicha yaqin 🙂

@lazizabdullaev

🗣: "Matematika juda qiyin"

Matematiklar:

Let it sink in.

@lazizabdullaev

2 kundan beri to'xtamay yomg'ir yog'yapti. Yerda loqal ko'lmakcha ham yo'q. To'g'ri barpo etilgan shaharning ko'zga ko'rinmas belgisi.

@lazizabdullaev

2025-yilning birinchi kunidan Rakuten'da AI Research Scientist Intern bo'lib amaliyotni boshladim. Hayrli qilsin!

Qabul ikki bosqichli texnik suhbatlardan iborat bo'ldi. Birinchi bosqich video qo'ng'iroq shaklida bo'lib umumiy texnik (AI) bilimlar haqida bo'ldi. Ikkinchi bosqich esa to'g'ridan to'g'ri Rakuten office'da 90 daqiqalik yuzma-yuz "whiteboard interview" shaklida bo'ldi. Hozirgacha birinchi yuzma-yuz interview tajribasi bo'ldi men uchun. Doskali xonada kutib turdim interview boshlanguncha, keyin 3 ta amaki kirib savollar bera boshladi - jonli suhbat hissiyoti boshqacha ekan. So'ng doskada ishlash uchun LeetCode style bir masala berishdi. Undan so'ng internals of Transformers, Mixture of Experts, State Space Models va ular bilan bog'liq nazariy va amaliy qiyinchiliklar haqida savollar so'rashgani yodimda qoldi.

Tanishlarimdan ko'pi Rakuten'ni FC Barcelona orqali bilishar ekan. Mana nima uchun Messining shaxsiy sahifalarida reklamalar buncha qimmat 😄

@lazizabdullaev

Rasmdagi ko'prik ustunlaridan boshqa hammada bayram kayfiyati :)

Bu yil fireworks'gacha qolmasdan qaytdim. O'tgan yili yaqinroqdan ko'rish uchun fitfillionta odam orasidan devorga igna suqqandek yurib borishga to'g'ri kelgandi :")

2024-yilni mazmunli o'tkazdingiz deb umid qilaman 🎆

@lazizabdullaev

The big H guy. Made in Taiwan 💎

@lazizabdullaev

Bilaman, "interest" bizning ish emas. Lekin 1996-yilda yozilgan bu kichik maqolachani matematika tarixi jihatidan qiziq deb topdim.

Taylor formulasi tahminan 17-asrda kashf etilgan. Forsiy bozorlarda esa birinchi tartibli Taylor taqribiy formulasi katta ehtimol bilan undan avval qo'llana boshlagan ko'rinadi. Savdogarlar o'sha paytda qo'llab yurgan bo'lsa, matematiklar ulardan ancha oldin binnarsani bilgan 💎

PS: Ulkan g'oyalar 1 kunda emas, yillar/asrlar davomida shakklanishiga yana bir dalil.

@lazizabdullaev

O'tgan hafta NeurIPS 2024 konferensiyasida tinglovchi hamda muallif sifatida ishtirok etdim.

Har yili minglab ilmiy izlanuvchilarni jamlaydigan ushbu konferensiya, bu yil Kanadaning Vancouver shahrida bo'lib o'tdi. Yuzlab qiziqarli posterlardan tashqari, konferensiya davomida AI revolutsiyasiga katta hissa qo'shganlar jumlasidan Fei-Fei Li (ImageNet ham-muallifi) va Ilya Sutskever (AlexNet ham-muallifi, OpenAI sobiq asoschilaridan biri) lar ma'ruzalarida sun'iy intellekt hozirgacha bo'lgan rivoji hamda yaqin kelajagi haqida insaytlar bilan bo'lishishdi. Xususan, yaqin kelajakda sifatli data yetishmovchiligi tufayli AI modellarni kattalashtirish (scaling) yuqori chegarasiga yaqinlashishi va bu tendensiya hozirgi an'anaviylashib borayotgan usullarni tubdan qayta ishlashga talab vujudga keltirishi Sutskever tomonidan tahmin qilindi.

Vancouverdan esa chiroyli xotiralar qoldi.

@lazizabdullaev

Qo'shilaman. Shunchaki bir paragraf matn yozish bo'lsa ham AI'ga buyuraversak tiniq fikrlash va nutqimizning susayishiga yo'l ochib bergan bo'lamiz.

@lazizabdullaev