Хиймэл оюун ухааны загвар ашиглан байгальд огт байхгүй шинэ вирусийн геном зохиосон нь биологийн аюулгүй байдлын талаарх ноцтой асуудлуудыг хөндөж байна.
Калифорни мужийн Пало Алто хотод төвтэй Arc Institute-ийн судлаачид байгаль дээрх янз бүрийн вирусийн ДНХ-ийн бүтцийг таньж сургасан хиймэл оюун ухааны тусламжтайгаар шинэ вирусийн геном бүтээсэн байна. “Evo” хэмээх геномын хэлний загвар нь боломжит хувилбаруудыг гаргаж өгсөн бөгөөд эрдэмтэд Эдгээр молекулуудыг лабораторид үүсгэн бактериудад суулгаж туршсанаар бусад бактерийг халдварлуулах чадвартай вирус үржиж тархаж болохыг тогтоожээ. Уг туршилтын үр дүнг Science сэтгүүлд нийтэлсэн байна.
Энэхүү туршилт нь хэд хэдэн анхаарах зүйлтэй бөгөөд вирусийг нийлэгжүүлэх үйл явц хиймэл оюун ухаан гарахаас өмнө ч оршин тогтнож байсан аж. Түүнчлэн уг вирус нь хүний амь насанд аюул учруулахгүй бөгөөд зөвхөн бактерийг халдварлах зориулалттай Phi X-174 вирусийн ДНХ-д суурилсан байна. Гэсэн хэдий ч хиймэл оюун ухаан зорилгодоо хүрэхийн тулд 700,000 орчим боломжит геномыг гаргаж, үүнээс 300 гаруйг нь лабораторид бүтээснээс ердөө 16 нь л амьдрах чадвартай болох нь батлагджээ.
Тус амьдрах чадвартай вирурсууд нь E. coli буюу гэдэсний савц хоёр хэлбэрийн эсэргүүцлийг даван туулж чадсан нь байгаль дээр байдаг вирусийн энгийн дуураймал биш болохыг харуулж байна. Жонс Хопкинс их сургуулийн Эрүүл мэндийн аюулгүй байдлын төвийн судлаачид энэхүү ололт амжилт нь амьдралын ухааны салбарт ирээдүйтэй боловч био аюулгүй байдлын яаралтай асуудлуудыг үүсгэж байгааг анхааруулжээ. Генератив хиймэл оюун ухаан ашиглан вирусийн геном зохиох чадвар хэдийн бий болсон хэдий ч үүнийг аюулгүйгээр удирдах засаглал одоогоор байхгүй байна.
Үүнтэй холбогдуулан АНУ-ын Үндэсний эрүүл мэндийн хүрээлэн өнгөрсөн долоо хоногт биологийн агентуудыг илүү аюултай болгох туршилт хийхийг хориглох шинэ бодлого баталсан юм. Гэсэн хэдий ч уг бодлого нь тодорхой анхаарал татсан биетүүдийг хамарсанаас биш хиймэл оюун ухаанд суурилсан судалгааг шууд хориглоогүй байна. Энэ нь эрдэмтэд шинэ хор хөнөөлтэй вирус зохиосон тохиолдолд дүрэм журам хэрхэн үйлчлэх талаарх тодорхойгүй байдлыг бий болгож байгаа аж.
Дэлгэрэнгүйг эх сурвалжаас харах
↓Эх сурвалжийг нээх ↓
One of the great promises of artificial intelligence was that it would help to cure diseases that have thus far stumped humanity. It hasn’t gotten there yet, but it has now created a new, viable virus not found in nature—which is one of those technical achievements that is both impressive and unnerving.
Researchers at the Palo Alto, California-based Arc Institute believe they have accomplished a new first by using AI to manufacture new viral genomes by first teaching a model how to recognize the DNA structure of different viruses found in nature and then tasking it to create recipes for new, novel viruses.
Once the model—a genome language model called Evo—whipped up some options, the scientists created those molecules and loaded them up with bacteria to see what would happen. According to the researchers, who detailed the experiment in a study published Thursday in Science, the bacteria produced viruses capable of infecting other bacteria and spreading.
This experiment comes with a couple of anti-doomer caveats. The first is that the process of synthesizing viruses existed long before AI showed up on the scene, so part of this experiment is just an existing tool in the toolkit of viral researchers. The second is that this particular virus is not a threat to humans and can only infect bacteria. That’s by design, as the DNA the AI model was pulling from was a relatively harmless virus known asPhi X-174.
There’s also the fact that the AI really took a lot of cracks at it to achieve its goal. According to The New York Times, the researchers had Evo generate 700,000 potential genomes, then narrowed it to about 300 that they made in the lab. Just 16 of them proved to be viable. It’s a far cry from the Infinite Monkey Theorem, but it is a pretty low hit rate.
But that’s probably not enough to provide peace of mind for anyone worried about how this technology might be utilized. The model needed hundreds of thousands of attempts to produce a handful of viable viruses, but those that worked were reportedly able to overcome resistance in two strains of E. coli, suggesting they were more than crude imitations of naturally occurring viruses.
Science ran an accompanying article alongside the study authored by Professor Tom Inglesby and Dr. Moritz Hanke at the Center for Health Security at Johns Hopkins University, issuing a warning about the breakthrough. “Although this is promising for life sciences applications, it also raises urgent biosafety and biosecurity questions,” they wrote. “The ability to compose viral genomes using generative AI now exists; the governance to safely steer it does not.”
To that end, the National Institutes of Health issued new policies last week for preventing high-risk life science research by barring scientists from conducting experiments that would make biological agents more dangerous. What it doesn’t do, though, is restrict AI-based research. “Purely computational (i.e., in silico) research that may include development of computational models and software, or may use such means to design novel forms of biological agents, is not prohibited by this policy unless it involves an entity of concern,” the document reads.
An entity of concern implies something that already exists—the Times raises smallpox as an obvious example. But what if they whip up a new harmful virus? How do the rules apply then? Just another nightmare scenario over which you have no personal control to keep you up at night.
