Хиймэл оюун ухаан нь бие даан сэтгэх эсвэл учир шалтгааныг олох чадвартай гэсэн ойлголтыг судлаач Тимнит Гебру үгүйсгэж, энэ нь зөвхөн хэв шинж таних үйл явц болохыг онцоллоо.
Салбарын мэргэжилтнүүд хиймэл оюун ухааныг өөрөөсөө суралцах буюу рекурсив оюун ухаантай хэмээн тодорхойлж байгаа ч Тимнит Гебру үүнийг шинжлэх ухааны үндэслэлгүй гэж үзэж байна. Тэрээр “машин сургалт” гэх нэр томьёо нь бодит байдлаас илүүтэй хэт өөдрөг төсөөлөлд суурилсан нэршил болохыг тэмдэглэв. Apple компанийн машин сургалтын судалгааны албаны дарга Сами Бенгиогийн багийн 2025 оны судалгаанд дурдсанаар, хэмжүүрүүдийг бага зэрэг өөрчлөхөд л хиймэл оюун ухааны учир шалтгаан олох чадвар бүрэн нурдаг нь тогтоогджээ.
Тимнит Гебругийн үзэж буйгаар, өнөөгийн загварууд нь зөвхөн тодорхой хэв шинжийг таньж, үгэн код буюу “токен” гаргадаг болохоос биш хүнийхтэй адил сэтгэхүйн процесс явагддаггүй. Компаниуд судалгааны өгөгдөл, код болон үнэлгээний аргачлалаа нууцалдаг нь шинжлэх ухааны үнэн зөв дүгнэлт хийхэд саад болж байна. Хэрэв загваруудыг сургалтын явцад үнэлгээний жишиг даалгавруудтай нь хамт оруулбал, энэ нь шалгалтын хариуг урьдчилан мэдэж буйтай адил хуурамч үзүүлэлт болдог гэж тэрээр шүүмжилжээ.
Тэрээр бодлогын шийдвэр гаргагчид болон хэвлэл мэдээллийнхнийг компаниудын олон нийтэд зарласан мэдээлэлд сохроор итгэхээс татгалзахыг уриалав. Жинхэнэ шинжлэх ухааны үнэлгээ хийхийн тулд сургалтын өгөгдөл болон аргачлалыг ил тод болгож, үр дүнг дахин давтан баталгаажуулах шаардлагатайг онцолсон юм. Ингэснээр хиймэл оюун ухааны бодит чадавхыг тодорхойлж, хэтрүүлэгтэй ойлголтуудыг залруулах боломжтой гэж үзэж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
Of course they are!
The New York Times just did a big story about how the scientists and researchers right now, that’s what they’re looking towards, recursive intelligence, the AI learning from other AI. Is that a reality? It sounds like you’re saying that’s not a reality.
No, because there’s one problem with AI researchers, which is aspirational naming and aspirational stuff. So machine learning, that’s aspirational naming.
But machine learning is real.
But the naming is aspirational. The machine is not necessarily there.
So just because there’s curriculum learning in AI, it’s a field. But let me give you a paper from my former manager, Samy Bengio, who is a superstar in machine learning, not as famous as his older brother Yoshua. I ask him, “Aren’t you tired of your whole life being, like, debunking the whole reasoning thing every single paper you write?”
He quit after I got fired from Google, and he’s now head of machine learning research at Apple. If you look at almost every single paper that they have, it’s showing how if you change the benchmarks on reasoning slightly, the whole thing breaks down. It’s not reasoning.
Got it.
Let me give you another example. Just because your models, the stochastic patterns that you trained to print out certain tokens, you call them chain-of-thought reasoning. You didn’t know that they were thinking, you don’t know it’s a chain, you just know that these are tokens that are being printed out, but you call them chain-of-thought reasoning. Now you’re saying that they’re reasoning already.
One of the biggest crises that we have right now is actually sound scientific research. So if you look at my work, if I ever have access to the data, the code, the training data, and the evaluation data, which none of these companies give you those things—you don’t even know if they ingested that benchmark during training or not.
If you ingest a benchmark during training, it’s like studying to the test. It’s like me coming to an exam knowing what the answers to those 10 questions are already, studying that, and writing it down, right? Every time I have had access to these things, I have shown how their claims are not correct.
But then with Samy Bengio and his team’s paper, what they showed—and this is from 2025—is that you just change the benchmarks a little bit, tweak it a little bit, and it all breaks down, showing that you were just relying on the patterns. Now, some people, when I give them this example, they’re like, “Well, but we’re talking about 2026 models.”
Guess what? Real evaluation in science takes time. We should not be going from press releases to lawmakers parroting those press releases and journalists repeating those claims. If you wanna do real research and evaluation, ask for the training data, the evaluation data, and the methodology so we can all reproduce it.
So the thinking, reasoning, recursive intelligence—it sounds like you still see that as something that is purely human. It’s the way our neural processes work, but the AI doesn’t work that way yet. That’s what you believe.
