Tha hallucinations AI a’ toirt iomradh air cùisean far a bheil modalan AI, gu sònraichte modalan cànain mòra (LLMn), a’ gineadh fiosrachadh a tha a’ nochdadh fìor ach a tha ceàrr no gun cheangal ris an cuir a-steach. Tha an t-iongantas seo na dhùbhlan mòra, oir faodaidh e leantainn gu sgaoileadh fiosrachadh meallta no meallta.
Chan e mearachdan air thuaiream a th’ anns na hallucinations seo ach gu tric thig iad bho:
- Eadar-obrachadh iom-fhillte an dàta air am bi thu a’ trèanadh nam modalan,
- Dealbhadh a 'mhodail,
- Mar a mhìnicheas am modail molaidhean.
Mar sin, bidh dèiligeadh ri hallucinations AI deatamach airson earbsachd agus earbsachd siostaman AI. Tha e riatanach ann an tagraidhean far a bheil feum agad air cruinneas agus ceartachd fìrinneach. Tuigidh sinn seo nas mionaidiche.
Adhbharan AI Hallucinations
Faodaidh hallucinations AI tighinn bho dhiofar fhactaran, leithid:
Mì-mhìneachaidhean AI air sgàth droch dhàta trèanaidh
Tha càileachd, iomadachd agus riochdachadh an dàta trèanaidh a’ toirt buaidh air mar a bhios modalan AI a’ mìneachadh agus a’ freagairt air cuir a-steach. Faodaidh dàta trèanaidh neo-iomchaidh no claon leantainn gu modalan AI a’ gineadh toraidhean meallta no meallta. Tha e riatanach an dàta trèanaidh ceart a thaghadh dèanamh cinnteach gu bheil tuigse chothromach agus fharsaing aig a’ mhodail air a’ chuspair.
Mearachdan ionnsachaidh inneal bho overfitting
Bidh cus uidheamachadh a’ tachairt nuair a tha modal AI air a thrèanadh air stòr-dàta cuibhrichte. Tha e ag adhbhrachadh gum bi am modail a’ cuimhneachadh cuir a-steach agus toraidhean sònraichte seach a bhith ag ionnsachadh coitcheannachadh. Faodaidh an dìth coitcheann seo adhbhrachadh don mhodail hallucinations a thoirt gu buil nuair a thig e tarsainn air dàta ùr.
Mearachdan mìneachaidh AI le gnàthasan-cainnt no slang
Is dòcha gum bi duilgheadasan aig modalan AI le gnàthasan-cainnt no abairtean slang nach do choinnich iad san dàta trèanaidh aca. Faodaidh an neo-eòlas seo leantainn gu neo-riaghailteachdan toraidh AI.
Saobhadh dàta AI bho ionnsaighean nàmhaid
Faodaidh ionnsaighean nàimhdeil a tha a’ toirt a-steach brosnachaidhean a chaidh an dealbhadh a dh’aona ghnothach gus AI a mhealladh no troimh-chèile a bhith a’ brosnachadh hallucinations. Bidh na h-ionnsaighean sin a’ gabhail brath air so-leòntachd dealbhaidh is trèanaidh a’ mhodail.
Innleadaireachd Droch Spreagadh
Faodaidh mar a bhios tu a’ structaradh agus a’ taisbeanadh mholaidhean do mhodal AI buaidh mhòr a thoirt air na toraidhean aige. Faodaidh brosnachaidhean neo-shoilleir no teagmhach leantainn gu bhith a’ toirt a-mach am modail no a’ toirt a-mach fiosrachadh nach eil iomchaidh no ceàrr. Air an làimh eile, faodaidh molaidhean air an deagh thogail a bheir seachad co-theacsa agus stiùireadh soilleir am modail a stiùireadh gus freagairtean nas cinntiche agus nas iomchaidh a ghineadh.
Teicneòlasan gus hallucinations AI a lughdachadh
Le bhith a’ lughdachadh hallucinations ann am modalan AI, gu sònraichte modalan cànain mòra, tha measgachadh de ro-innleachdan teicnigeach ann:
Ag atharrachadh paramadairean modail
Le bhith a’ suidheachadh am paramadair teodhachd gu 0 gheibh thu toraidhean nas cruinne. Bidh an teòthachd a’ cumail smachd air thuaiream ann an gineadh freagairt a’ mhodail. Tha teòthachd nas ìsle a’ ciallachadh gun urrainn don mhodail na faclan agus abairtean as coltaiche a thaghadh airson toraidhean nas seasmhaiche agus nas earbsaiche. Tha an atharrachadh seo gu sònraichte luachmhor airson gnìomhan a dh’ fheumas cruinneas fìrinneach agus cunbhalachd.
Bunait Eòlais Taobh a-muigh
Le bhith a’ cleachdadh stòran dàta bhon taobh a-muigh airson dearbhadh faodaidh e mearachdan ginealach a lughdachadh gu mòr. Faodaidh e iomradh a thoirt air an dàta bhon taobh a-muigh seo nuair a bhios e a’ gineadh fhreagairtean le bhith a’ toirt seachad am modail le fiosrachadh as ùire agus dearbhte. Bidh an dòigh-obrach seo ag atharrachadh an duilgheadas ginealach a-mhàin gu bhith na obair sgrùdaidh no geàrr-chunntas nas sìmplidh stèidhichte air an dàta a chaidh a thoirt seachad.
Bidh innealan mar Perplexity.ai agus You.com a’ sealltainn èifeachdas an dòigh seo le bhith a’ co-chur toraidhean LLM le dàta eadar-mheasgte air fhaighinn air ais bho stòran taobh a-muigh.
Mion-atharrachadh le dàta a tha sònraichte do dh’fhearann
Bidh modalan trèanaidh le dàta a tha sònraichte don àrainn ag àrdachadh an cruinneas agus a’ lughdachadh hallucinations. Tha am pròiseas seo a’ nochdadh a’ mhodail gu pàtrain agus eisimpleirean a bhuineas do raon no cuspair sònraichte. San dòigh seo, faodaidh tu na toraidhean aige a cho-thaobhadh leis an raon targaid.
Tha an leithid de ghleusadh a’ toirt comas don mhodail freagairtean nas freagarraiche agus nas ceart a chruthachadh a thaobh co-theacsa. Tha e riatanach ann an tagraidhean sònraichte leithid cungaidh-leigheis, lagh, no ionmhas.
Innleadaireachd sgiobalta
Tha prìomh àite aig dealbhadh brosnachaidhean ann a bhith a’ lasachadh hallucinations. Bidh molaidhean soilleir, beairteach ann an co-theacsa a’ stiùireadh modal AI ann an dòigh nas èifeachdaiche. Faodaidh iad mì-thuigse agus mì-chinnt AI a lughdachadh agus am modail a stiùireadh gu bhith a’ gineadh freagairtean iomchaidh agus ceart.
Chan eil am modail agad cho dualtach toraidhean nach eil buntainneach no ceàrr a thoirt gu buil ma shònraicheas tu na feumalachdan fiosrachaidh gu soilleir agus ma bheir thu seachad an co-theacsa riatanach.
Ro-innleachdan adhartach airson a bhith a 'lasachadh hallucinations
Faodaidh tu trì dòighean adhartach a luathachadh gus hallucinations AI a lughdachadh ann am modalan cànain mòra, a’ toirt a-steach:
Ginealach Meudaichte Ath-ghairm (RAG)
Tha an dòigh seo a’ cothlamadh comasan ginealaich LLMn le stòr-dàta vector a bhios mar bhunait eòlais. Nuair a thèid ceist a chuir a-steach, bidh am modail ga thionndadh gu bhith na vectar semantach agus a’ faighinn air ais sgrìobhainnean le vectaran coltach ris.
Bidh an LLM an uairsin a’ cleachdadh nan sgrìobhainnean sin agus a’ cheist thùsail gus freagairt nas cinntiche agus nas buntainniche a chruthachadh. Tha RAG gu bunaiteach ag uidheamachadh an LLM le cruth de cuimhne fad-ùine. Leigidh seo le LLM faighinn a-steach agus amalachadh dàta bhon taobh a-muigh.
Adhbhar le Brosnachadh Slabhraidh-Smaointe
Tha LLMn air leth math air gnìomhan leithid ro-innse fhaclan, geàrr-chunntas air fiosrachadh, agus às-tharraing dàta mar thoradh air adhartasan ann an cruth-atharraichean. Faodaidh iad cuideachd a dhol an sàs ann am planadh agus reusanachadh iom-fhillte.
Bidh brosnachadh slabhraidh smaoineachaidh a’ cuideachadh LLMn gus duilgheadasan ioma-cheum a bhriseadh sìos gu ceumannan nas làimhseachail. Bidh e a’ leasachadh an comas air gnìomhan reusanachaidh iom-fhillte fhuasgladh. Tha an dòigh seo air a neartachadh le bhith a’ toirt a-steach eisimpleirean bho stòr-dàta vector, a bheir seachad co-theacs agus eisimpleirean a bharrachd airson an LLM a tharraing air. Tha na freagairtean a thig às a sin ceart agus a’ toirt a-steach an reusanachadh air an cùlaibh, air an stòradh tuilleadh anns an stòr-dàta vector gus freagairtean san àm ri teachd a leasachadh.
Ceist ath-aithriseach
Tha am pròiseas seo a’ toirt a-steach àidseant AI a’ comasachadh eadar-obrachaidhean ath-aithriseach eadar an LLM agus stòr-dàta vector. Bidh an neach-ionaid a’ ceasnachadh an stòr-dàta le ceist, ag ùrachadh an sgrùdaidh stèidhichte air ceistean coltach ris a chaidh fhaighinn air ais, agus an uairsin a’ toirt geàrr-chunntas air na freagairtean.
Ma chì thu gu bheil am freagairt geàrr-chunntais mì-riaraichte, thèid am pròiseas a-rithist. Tha an dòigh seo, mar eisimpleir le Ginealach Ath-lorg Gnìomhach a tha a’ coimhead air adhart (FLARE), ag àrdachadh càileachd a’ fhreagairt dheireannaich le bhith mean air mhean ag ùrachadh a’ cheist agus an fhreagairt tro iomadh tionndadh.
Co-dhùnadh
Tha feum air dòigh-obrach ioma-thaobhach gus faighinn thairis air hallucinations ann am modalan AI. Feumaidh e atharrachaidhean teignigeach a choimeasgadh le ro-innleachdan reusanachaidh adhartach. Faodaidh amalachadh dhòighean lasachaidh cur gu mòr ri cruinneas agus earbsachd freagairtean AI. Bidh na ro-innleachdan sin a’ dèiligeadh ris na cùisean sa bhad a thaobh hallucinations AI agus a’ fuasgladh na slighe airson siostaman AI nas làidire agus nas earbsaiche san àm ri teachd.
