Natakuatan ti German researcher a mabalin a maallilaw ti GPT models ti OpenAI tapno mangipaay ti nangato a marka iti maaw-awagan a “pseudo-literary” wenno dagiti awan kaskaskenan na a teksto.
Segun kenni Christoph Heilig iti Ludwig Maximilian University of Munich, nadlaw na a mangipapaay ti AI model iti nagato a rating kadagiti “nonsense sentences” nga uray nu maus-usar ket ti “reasoning” features.
Iti eksperimento ket naipaadal iti AI dagiti nagduduma a bersyon ti maysa a simple a teksto a naikkan iti marka manipud 1 agingga 10.
Nangrugi daitoy kadagiti simple sentences agingga nabalbaliwan babaen ti pananginayon ti body references, film noir-style tone, ken technical jargon.
Laksid ti panagbalin nga arig na awanen kaskaskenan na dagiti dadduma a bersyon, agtultuloy latta daitoy a nakaawat ti nangato a marka manipud iti AI.
Natakuatan pay ni Heilig a mabalin a maapektaran ti panagdillaw ti AI iti argumento, depende iti panangnayon kadagitoy a “Nonsense Pseudo-Literary” a rason ti panagbaba wenno panagngato ti rating.
Impakdaar na a posible a maipasa ti kastoy a bias kadagiti sumaruno nga AI systems, nangruna ket maar-aramat latta ti AI tapno adalen ti aramid ti pada na nga AI.
Daitoy a research a nangusar ti kabaroan a GPT Models ti OpenAI ket saan pay a na-peer-review.
Imbatad ni Henry Shevlin manipud met Leverhulme Centre for the Future of Intelligence a naapektaran ti “rational judgment” ti AI, saan met a naidumduma daitoy iti limitasyon ng tao.
Nu ketdi, impaganetget na ti peggad kadagiti proseso a kurang ti human oversight a kas ti panagreview ti AI kadagiti academic papers, nga inlawadan na a “ripe for exploitation.”
