Laziz Abdullaev

Apple store. Marina Bay Sands, Singapore.

Agar olmaga o'xshatishmoqchi bo'lgan bo'lishsa - o'xshamabdi. Aks holda, ajoyib :)

@lazizabdullaev

- How tough is your PhD advisor?
- Yes

@lazizabdullaev

It is counter-intuitive but... simplicity is the most complicated thing, most difficult to achieve.

@lazizabdullaev

Ba'zi tanishlarim ChatGPT'ning matematikadagi ko'rsatkichlari nisbatan pastroqligiga qarab, yuqoridagi xabarga tanqidiy qarash bildirishdi.

Ta'kidlash joizki, AlphaProof yoki AlphaGeometry modellari, GPT'dan farqli ravishda, umumiy "language model" emas balki matematik isbotlashga ixtisoslashgan model hisoblanib, ularga masalani tushuntirish uchun maxsus funksional dasturlash tili - Lean ishlatiladi.

PS: Lean dasturlash tili (proof assistant) ning kelajagi borga o'xshaydi. Birinchidan, Microsoft Research xodimi tomonidan boshlanib hozirda boshqa xomiylar topishga ham ulgurgan. Ikkinchidan, https://lean-lang.org/publications/ sahifasida aynan Lean dasturlash tili bo'yicha yozilgan ishlarni ko'rishingiz mumkin.

@lazizabdullaev

Google DeepMind jamoasi tomonidan yaratilgan AlphaProof va AlphaGeometry 2 sun'iy intellekt modellari shu yilgi 6 ta IMO (International Mathematics Olympiad) masalalarining 4 tasiga "perfect score"ga loyiq yechim taklif qilib baholash mezoniga ko'ra olimpiadaning kumush medaliga mos ko'rildi.

Fields medali sohibi Timothy Gowers bu modellar haqida:

The fact that the program can come up with a non-obvious construction like this is very impressive, and well beyond what I thought was state of the art.

Manba

@lazizabdullaev

John Hopkins universitetida computational imaging/machine learning bo'yicha MS/PhD/Postdoc o'rinlariga qiziqadiganlar uchun:

Application Form: https://forms.gle/DwTj6BeVspgoH8iP9

Manba

@lazizabdullaev

LLMs (Large Language Models) aslida fikrlash qobiliyatiga egami?

Birinchi nigohda go'yo LLMs (masalan GPT mahsulotlari) shunchaki internetdagi matnlarni "yodlab olib", savol berilganda shu yodlangan so'z va gaplardan mosini topib beradigandek. Shu tufayli ham bunday modellarga "Stochastic parrot" (tasodifiy to'tiqush) sifatida qarash keng tarqaldi. Chindan ham GPT qanday ishlashini tushuntirishga harakat qiladigan manbalarni ko'rib chiqish shunday tushunchani keltirib chiqarish ehtimoli katta - "N ta so'zni o'qiyman, keyingi so'zni ombordan topib beraman". Sodda statistik modellashtirganda ham shu jarayondan foydalanish mumkin. Ammo, inson intellekti ham to'liq gapni birdaniga tuza olmaydi, so'zlarni qandaydir ketma ketlik bilan hosil qiladi.

"Keyingi so'zni topib berish va fikrlash yer bilan osmonchalikku", - deyishingiz mumkin.

"Fikrlash" tushunchasiga qanday ta'rif berishga bog'liq.

Quyida LLMs ga oid ba'zi qiziqarli ilmiy asoslangan yoki tekshirilgan faktlarni keltiraman:

1. LMlar so'zlarni o'zida vector ko'rinishda tasvirlaydi (e.g. word2vec). Raqamlar orqali so'zlar to'plamidagi ma'noni aks ettirishiga ishonish qiyin, ammo namunaviy ilmiy tajribalar ko'rsatadiki, qaysidir "o'rganilgan" qism fazoning qaysidir yo'nalishi, misol uchun, jinsni ifodalaydi. Masalan, word2vec("king") - word2vec("queen") va word2vec("male") - word2vec("female") ayirmalar bir biriga o'xshash. Bu tasodif emas, bunday mosliklar stabil tarzda kuzatiladi.

2. Shunga o'xshash, "haqiqat" tushunchasi ham o'rganilgan fazoning qaysidir yo'nalishi, aytaylik A, bilan qoniqarli ifodalanishi kuzatiladi. Ya'ni "to'g'ri" va "noto'g'ri" tushunchalarini bir biridan (oddiygina chiziqli classifier bilan!) qoniqarli tarzda ajrata olish ko'nikmasi borligi ko'rildi.

3. Umuman, tushirib qoldirilgan so'zni gap ma'nosini buzib yubormay topish uchun ongimizdan aynan nima talab etiladi? Gap mazmunini tushunish talab etilmaydimi?

Sanab o'tilganlar oddiy observation'lar bo'lishi mumkin, ammo "tasodifiy to'tiqush" masalan shunday xususiyatlarni o'zida namoyish eta olarmidi? Sarlavhadagi savol aslida munozarali savol. AI'ning hozirgacha erishgan muvofaqqiyati siri aynan nimada ekanligi yetarlicha tushunilmaganligi "Ha" deyish uchun ham "Yo'q" deyish uchun ham to'sqinlik qiladi.

@lazizabdullaev

Degrees of Unsolvability (yechilmaslik darajalari) kimga kerak, o'zi hayotda kerakmi? Qanday ishlatiladi?

Ko'rinishidan mavhum bo'lgan har qanday nazariya "nima uchun?" va "qanday qilib?" kabi savollar ketma ketligiga erinmay javob izlashdan kelib chiqqan bo'ladi odatda. Avval hayotda qandaydir oddiy hodisa kuzatuv natijasida ko'riladi (observation) va shu nuqtadan boshlab bu hodisa nima uchun va qanday qilib sodir bo'lyotganiga javob izlanadi.

Ba'zi hodisalar murakkabligidan ularga qo'yilgan savollar ketma ketligi ham cho'zilib ham tarmoqlanib, qaysidir ma'noda bilim labirintini tashkil etadi. Natijada "bu nimaga kerak?" savoliga javob berish uchun ushbu labirintdan to'liq ortga qaytish yoki savol so'rovchi o'zi mustaqil chiqib keta oladigan joyigacha eltib qo'yish talab etiladi.

P.S.: Shunday ekan "bu qayerda ishlatiladi", "kimga kerak" kabi savollarni tasodifiy uchragan odamdan so'rab noto'g'ri xulosaga kelish o'rniga mos labirintda yetarlicha ortga yura oladigan mutaxassisdan so'rash maqsadga muvofiq.

@lazizabdullaev

90-yillarda chop etilgan sun'iy intellekt/neural tarmoqlar yo'nalishlaridagi maqolalarning katta qismi shular kabi Brain (miya) yoki Psychology (Psixologiya) fakultetlari xodimlari tomonidan yozilgani e'tiborga sazovor.

@lazizabdullaev

Birinchi maqolamiz arXivdan joy oldi: https://arxiv.org/abs/2406.13770 ☕🫖

@lazizabdullaev

Chiroyli ko'rinsa bo'ldida 🙂

@lazizabdullaev

Maktabda yaxshi o'qimagan shekilli :)

@lazizabdullaev

Rasmda QS Rankings | Technical University of Munich (TUM). Oldinlari potensiali katta bo'lsa ham doim 50 atrofida yurar edi, 2 yil kuzatmaganimga ko'tarilib ketibdi 👀

2 yildan beri non-EU talabalarga tekin o'qishni bekor qilgan ekan (BSc 2k-4k, MSc 3k-6k 💸). Ha, oldin tuition fee yo'q edi.

Qissadan hissa, sarmoyaning bo'lishi va uning to'g'ri ishlatilishi qushning ikki qanotidek gap.

@lazizabdullaev

Kanada davlatida Robotics+ML sohasida PhD talabalarga vakansiya ekan.

1-iyulgacha so'ralgan hujjatlarni quyidagi emailga jo'natsangiz bo'ladi:

Email: young.cha@umanitoba.ca

Manba

@lazizabdullaev