Ano ang LaMDA AI ng Google, at Bakit Naniniwala ang isang Google Engineer na Ito ay Nakakaramdam?


Sinabi ng isang senior engineer sa Google na ang LaMDA AI ng kumpanya ay naging sensitibo. Nakakaalarma o nakakapanabik man ito, isa itong napakalakas na pag-aangkin, at marahil ay mahirap patunayan kahit na ito ay ganap na totoo.

Ano ang LaMDA?

Ang LaMDA ay maikli para sa Modelo ng Wika para sa Dialog Application. Sa madaling salita, ito ay isang machine learning na modelo ng wika na partikular na idinisenyo upang bumuo ng natural na dialogue. Ang mga pamamaraan ng machine learning ay nagbibigay-daan sa mga computer na tumuklas ng mga pattern at relasyon sa data. Kaya, halimbawa, maaari mong sanayin ang isang machine-learning algorithm gaya ng GPT-3 (isa pang cutting-edge system) sa lahat ng mga gawa ni Shakespeare at pagkatapos ay ipabuo ito ng mga bagong orihinal na teksto na parang Shakespeare.

Tulad ng ipinaliwanag ni Sundar Pichai (CEO ng Google) sa isang panayam sa Yahoo Finance, ang LaMDA ay isang sistema na naiiba dahil partikular itong sinanay sa diyalogo. Ang layunin ay bigyan ang mga system ng Google ng kakayahang makisali sa tulad ng tao na bukas na pag-uusap sa mga user.

Sa madaling salita, ang mga taong humihiling sa mga produkto ng Google para sa mga partikular na bagay ay hindi kailangang baguhin kung paano sila mag-isip o magsalita. Maaari silang makipag-ugnayan sa sistema ng computer sa parehong paraan kung paano sila makikipag-ugnayan sa ibang tao.

Sa ilalim ng hood, lahat ng kasalukuyang modelo ng machine learning ay may bisa ng mga sopistikadong modelo ng matematika at istatistika. Bumubuo sila ng mga algorithm batay sa mga pinagbabatayan na pattern na natuklasan nila sa data. Pakainin sila ng sapat na mataas na kalidad na data, at ang mga algorithm na iyon ay naging lubhang epektibo sa paggawa ng mga bagay na ang mga tao lamang o iba pang natural na katalinuhan ang may kakayahang gawin sa ngayon.

Bakit Naniniwala ang isang Google Engineer na Ang LaMDA ay Sentient?

Ang engineer na pinag-uusapan ay si Blake Lemoine, na nag-publish ng isang panayam sa pagitan ng kanyang sarili at ng LaMDA bilang bahagi ng kanyang kaso kung bakit maaaring madamay ang LaMDA. Ginugol ni Lemoine ang ilang buwan sa pakikipag-usap sa software na nagtatanong dito, nagtatanong dito ng mga kumplikadong tanong, at nahihirapang paniwalaan na ang masalimuot at naaangkop na mga tugon nito ay maaaring produkto ng anumang bagay maliban sa isang nilalang.

Pinakamainam na lahat ng gustong maunawaan kung bakit ganito ang pakiramdam ni Lemoine ay basahin ang mga tugon ng LaMDA para sa kanilang sarili upang maunawaan kung bakit ito ay isang nakakahimok na posisyon na gawin. Ang mga tugon ng LaMDA ay napaka-tao na ang mga ito ay nakapagpapaalaala sa kathang-isip na personal assistant na AI mula sa Her ni Spike Jonze, isang kuwento kung saan ang isang tao ay nagkakaroon ng isang seryosong relasyon sa isang nakikipag-usap na AI.

Isinasantabi kung may anumang bigat ang mga pahayag ni Lemoine tungkol sa LaMDA, nararapat na tandaan na ang buong layunin ng disenyo ng LaMDA ay bumuo ng natural, mapagkakatiwalaang open-ended na dialogue. Kaya, sa ganoong kahulugan, ang kanyang paniniwala ay nagpapahiwatig na ang Google ay nakamit ang kamangha-manghang tagumpay sa pagbuo ng mapagkakatiwalaang dialogue. Kung ang anumang AI system ay kukumbinsihin ang isang tao na ito ay may pakiramdam, ito ay malamang na isa na partikular na idinisenyo upang gawin iyon.

Ang problema ay ang mga pag-aangkin ng sentience ay hindi talaga masusubok (o hindi bababa sa hindi posible, o masusubok sa etika) para sa maraming pang-agham at pilosopikal na dahilan. Upang maunawaan kung bakit, kailangan nating tingnan nang maikli kung ano ang ibig sabihin ng sentience.

Ano ang Sentience?

Ang salitang sentience ay talagang nangangahulugan na ang isang bagay (isang pusa, isang tao, o isang magic carpet) ay may kakayahang makaramdam. ito ay nagbabahagi ng parehong salitang-ugat bilang sentimental o sentiment. Ang sentensya ay hindi lamang nangangahulugan na ang isang bagay ay may kakayahang makadama. Ang iyong thermostat ay halos tiyak na hindi nakakaramdam sa kabila ng kakayahan nitong sabihin ang temperatura. Sa halip, ang sentience ay tungkol sa pansariling karanasan ng mga damdamin, na nagpapahiwatig na mayroong isang paksa sa unang lugar.

Mapanganib na mahuli sa mga semantika dito dahil malamang na ginagamit ni Lemoine ang salitang sentience nang palitan ng mga natatanging konsepto tulad ng sapience, intelligence, at consciousness. Kaya para sa kapakanan ng argumento, ang pinaka-kawanggawa na interpretasyon dito ay ang iniisip ni Lemoine na si Lamda ay isang may kamalayan sa sarili, na may kakayahang makaramdam ng mga bagay, may hawak na mga paniniwala, at kung hindi man ay nakakaranas ng mga bagay sa paraang karaniwan nating iniuugnay sa mga buhay na nilalang.

Sa isang karagdagang piraso, tinalakay ni Lemoine kung ano sa tingin niya ang nais at pinaniniwalaan ng LaMDA, na sumusuporta sa ideya na ang sentience sa kanyang pananaw ay nangangahulugang higit pa sa mahigpit na kahulugan nito sa diksyunaryo.

Hindi Namin Naiintindihan ang Sentience at Kamalayan sa Unang Lugar

Narito ang bagay: medyo kaunti lang ang alam natin tungkol sa sentience, consciousness, intelligence, at kung ano ang ibig sabihin ng pagiging entity na nagtataglay ng mga katangiang iyon. Medyo kabalintunaan, ang teknolohiya sa pag-aaral ng makina ay maaaring makatulong sa atin na masira ang ilan sa mga misteryo tungkol sa ating isipan at ang mga utak na umiiral sa loob nito.

Sa ngayon, ang mga pilosopo at siyentipiko ay tinatanggal ang itim na kahon ng kamalayan, ngunit tila ito pa rin ang resulta ng isang bagay na higit pa sa kabuuan ng mga bahagi nito. Lumilitaw na ang kamalayan ay isang bagay na lumalabas. Ito ay isang multo na nabuo mula sa pakikipag-ugnayan ng maraming iba't ibang mga neural subsystem, na wala ni isa sa mga ito ay tila nakakaramdam mismo.

Katulad nito, ang sopistikadong AI tulad ng DALL-E 2 image generation system, ay binubuo ng mas simpleng mga modelo ng machine learning na tumutugon sa isa't isa upang lumikha ng huling produkto. Ang tema ng pagiging kumplikado na nagmumula sa pakikipag-ugnayan ng mga mas simpleng system ay isa na madalas mong makaharap sa mundo ng AI, at bagama't maaari tayong magkaroon ng napakahusay na pag-unawa sa kung paano gumagana ang bawat subcomponent, ang mga huling resulta ay kadalasang hindi mahuhulaan.

Makikilala pa ba Natin ang Sentience sa AI?

Kung, para sa kapakanan ng argumento, ang isang AI ay talagang nakakaramdam sa totoong kahulugan ng salita, masasabi pa ba natin? Ang LaMDA ay idinisenyo upang gayahin at hulaan ang mga pattern sa pag-uusap ng tao, kaya ang deck ay talagang nakasalansan pagdating sa pag-trigger sa mga bagay na iniuugnay ng mga tao sa tulad-tao na katalinuhan. Gayunpaman, matagal kaming naisip na ang mga unggoy at hayop na hindi tao tulad ng mga dolphin, octopus, at elepante bilang masigla—kahit na sa engrandeng paraan ng mga bagay, halos magkakapatid namin sila.

Ang isang nakakaramdam na AI ay maaaring napaka-alien na hindi namin malalaman na kami ay nakatingin sa isa sa mismong harapan namin. Ito ay partikular na malamang dahil hindi natin alam kung ano ang mga kundisyon ng threshold para lumabas ang sentiensya. Hindi mahirap isipin na ang tamang kumbinasyon ng data at mga subsystem ng AI na pinaghalo sa tamang paraan ay maaaring biglang magsilang ng isang bagay na magiging kwalipikado bilang sentient, ngunit maaaring hindi ito mapansin dahil hindi ito mukhang anumang bagay na mauunawaan natin.

Kung Mukha itong Itik...

Ang huling malaking problema sa mga claim ng sentience sa mga makina ay ang parehong problema sa mga claim ng sentience sa anumang bagay, kabilang ang mga tao. Sa pilosopikal, hindi mo alam kung ang sinuman sa mga taong nakakasalamuha mo ay talagang may damdamin o hindi. Ito ang klasikong pilosopiko na problema ng zombie, na isang eksperimento sa pag-iisip tungkol sa mga hypothetical na nilalang na ganap na hindi nakikilala mula sa isang tao, maliban na wala silang sentience o anumang uri ng nakakamalay na karanasan.

Gayunpaman, tulad ng ipinakita ng sikat na pagsubok ni Alan Turing, hindi mahalaga kung ang isang AI ay talaga na pag-iisip at pakiramdam. Ang mahalaga ay maaari nitong gayahin ang hitsura ng pag-iisip at pakiramdam nang napakahusay na hindi natin matukoy ang pagkakaiba. Depende sa kung sino ang tatanungin mo, ang LaMDA ay nakapasa na sa Turing Test, na maaaring gawin ang mga hindi masusubok na pag-aangkin ni Lemoine na isang pag-aalinlangan.