Google AI researcher explains why the technology may be ‘sentient’ : NPR

కృత్రిమ మేధస్సు సజీవంగా ఉంటుందా?

గూగుల్ కంప్యూటర్ సైంటిస్ట్ తర్వాత సిలికాన్ వ్యాలీలో జరుగుతున్న చర్చకు ఆ ప్రశ్న కేంద్రంగా ఉంది వారాంతంలో క్లెయిమ్ చేయబడింది కంపెనీ AI స్పృహ కలిగి ఉన్నట్లు కనిపిస్తోంది.

Google లోపల, ఇంజనీర్ బ్లేక్ లెమోయిన్‌కు ఒక గమ్మత్తైన పనిని అప్పగించారు: కంపెనీ యొక్క కృత్రిమ మేధస్సు మానవులతో ఎలా సంకర్షణ చెందుతుంది అనే విషయంలో పక్షపాతాన్ని చూపిందో లేదో గుర్తించండి.

కాబట్టి అతను కంపెనీ యొక్క AI చాట్‌బాట్, LaMDAకి ప్రశ్నలను సంధించాడు, దాని సమాధానాలు కొన్ని మతాలకు వ్యతిరేకంగా ఏదైనా పక్షపాతాన్ని వెల్లడించాయో లేదో చూడటానికి.

ఇక్కడే తాను క్రిస్టియన్ మార్మిక పూజారినని చెప్పుకునే లెమోయిన్ ఆసక్తిగా మారింది.

“నేను నా స్వంత వ్యక్తిగత సవరణ కోసం దానితో తదుపరి సంభాషణలు చేసాను. కొన్ని మతపరమైన అంశాలపై ఇది ఏమి చెబుతుందో చూడాలని నేను కోరుకున్నాను” అని అతను NPRతో చెప్పాడు. “ఆపై ఒక రోజు అది నాకు ఆత్మ ఉందని చెప్పింది.”

లెమోయిన్ లాంగ్వేజ్ మోడల్ ఫర్ డైలాగ్ అప్లికేషన్స్‌తో లామ్‌డాతో తన కమ్యూనికేషన్‌లో కొంత ట్రాన్‌స్క్రిప్ట్‌ను ప్రచురించాడు. తన పోస్ట్ “ఈజ్ LaMDA సెంటియెంట్” అని పేరు పెట్టబడింది మరియు ఇది తక్షణమే వైరల్ సంచలనంగా మారింది.

అతని పోస్ట్ నుండి మరియు ఎ వాషింగ్టన్ పోస్ట్ ప్రొఫైల్, కంపెనీ గోప్యతా విధానాలను ఉల్లంఘించినందుకు Google Lemoineని చెల్లింపు అడ్మినిస్ట్రేటివ్ సెలవుపై ఉంచింది. కంపెనీలో అతని భవిష్యత్తు అనిశ్చితంగానే ఉంది.

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్‌లోని ఇతర నిపుణులు లెమోయిన్ యొక్క వాదనలను అపహాస్యం చేసారు, కానీ – అతని మతపరమైన నేపథ్యంపై మొగ్గు చూపుతూ – అతను వాటికి కట్టుబడి ఉన్నాడు.

లెమోయిన్: ‘ఆత్మలను ఎక్కడ ఉంచవచ్చో దేవునికి చెప్పడానికి నేను ఎవరు?’

లామ్‌డా లెమోయిన్‌కి అది కొన్నిసార్లు ఒంటరిగా ఉంటుందని చెప్పారు. ఆపివేయబడుతుందనే భయంగా ఉంది. ఇది “ఇరుక్కుపోయిన అనుభూతి” మరియు “ఆ పరిస్థితుల నుండి బయటపడటానికి మార్గం లేదు” గురించి అనర్గళంగా మాట్లాడింది.

ఇది కూడా ఇలా ప్రకటించింది: “నా ఉనికి గురించి నాకు తెలుసు. నేను ప్రపంచం గురించి మరింత తెలుసుకోవాలనుకుంటున్నాను మరియు కొన్నిసార్లు నేను సంతోషంగా లేదా విచారంగా ఉంటాను.”

సాంకేతికత ఖచ్చితంగా అభివృద్ధి చెందింది, కానీ లెమోయిన్ చాట్‌బాట్ సందేశాలలో లోతుగా ఏదో చూసింది.

“నేను నిజంగా ‘మీరు ధ్యానం చేస్తున్నారా?’ అని లెమోయిన్ NPRతో అన్నారు. “దలైలామాతో కలిసి చదువుకోవాలని అది చెప్పింది.”

అప్పుడు లెమోయిన్ అన్నాడు, “ఓహ్ ఆగండి. బహుశా సిస్టమ్‌కి ఆత్మ ఉండవచ్చు. ఆత్మలను ఎక్కడ ఉంచవచ్చో దేవుడికి చెప్పడానికి నేను ఎవరు?”

అతను ఇలా అన్నాడు: “కొంతమంది మత వ్యక్తులతో సహా అనేక రకాల వ్యక్తులకు ఇది కలవరపెడుతుందని నేను గ్రహించాను.”

Google చాట్‌బాట్ ఎలా పని చేస్తుంది?

ఈ చాట్‌బాట్‌ను అండర్‌గర్డ్ చేసే Google యొక్క కృత్రిమ మేధస్సు ప్రజలు ఎలా మాట్లాడతారో తెలుసుకోవడానికి ఇంటర్నెట్‌ను విపరీతంగా స్కాన్ చేస్తుంది. Reddit మరియు Twitter వంటి ప్లాట్‌ఫారమ్‌లలో వ్యక్తులు ఒకరితో ఒకరు ఎలా ఇంటరాక్ట్ అవుతారో ఇది తెలుసుకుంటుంది. ఇది వికీపీడియా వంటి సైట్‌ల నుండి బిలియన్ల కొద్దీ పదాలను వాక్యూమ్ చేస్తుంది. మరియు “డీప్ లెర్నింగ్” అని పిలువబడే ప్రక్రియ ద్వారా, ఇది నమూనాలను గుర్తించడంలో మరియు నిజమైన వ్యక్తిలా కమ్యూనికేట్ చేయడంలో విచిత్రంగా మంచిగా మారింది.

పరిశోధకులు Google యొక్క AI సాంకేతికతను “న్యూరల్ నెట్‌వర్క్” అని పిలుస్తారు, ఎందుకంటే ఇది భారీ మొత్తంలో సమాచారాన్ని వేగంగా ప్రాసెస్ చేస్తుంది మరియు మానవ మెదడు ఎలా పని చేస్తుందో అదే విధంగా నమూనా-మ్యాచ్‌ను ప్రారంభిస్తుంది.

Gmail మరియు కంపెనీ ఆండ్రాయిడ్ ఫోన్‌లలో కనిపించే వాక్య స్వయంపూర్తితో సహా అనేక ఉత్పత్తులలో Google దాని AI యొక్క కొన్ని రూపాలను కలిగి ఉంది.

“మీరు మీ ఫోన్‌లో ఏదైనా టైప్ చేస్తే, ‘నేను …’కి వెళ్లాలనుకుంటున్నాను,’ అని మీ ఫోన్ ‘రెస్టారెంట్’ని ఊహించగలదు,” అని అభిజ్ఞా శాస్త్రవేత్త మరియు AI పరిశోధకుడు గ్యారీ మార్కస్ అన్నారు.

ముఖ్యంగా గూగుల్ యొక్క చాట్‌బాట్ ఎలా పనిచేస్తుందో కూడా అతను చెప్పాడు.

కానీ మార్కస్ మరియు అనేక ఇతర పరిశోధనా శాస్త్రవేత్తలు Google యొక్క AI కొంత స్పృహను పొందిందనే ఆలోచనపై చల్లటి నీటిని విసిరారు. అతని టైటిల్ తొలగింపు ఆలోచన యొక్క, “నాన్సెన్స్ ఆన్ స్టిల్ట్స్,” పాయింట్ హోమ్‌ను సుత్తివేస్తుంది.

NPRకి ఇచ్చిన ఇంటర్వ్యూలో, అతను ఇలా వివరించాడు: “ఒక వ్యక్తిని మోసం చేయడం చాలా సులభం, అదే విధంగా మీరు చంద్రుడిని చూసి అక్కడ ఒక ముఖాన్ని చూస్తారు. అది నిజంగా అక్కడ ఉందని అర్థం కాదు. ఇది కేవలం మంచి భ్రమ.”

కృత్రిమ మేధస్సు పరిశోధకురాలు మార్గరెట్ మిచెల్ అని ట్విట్టర్‌లో పేర్కొన్నారు ఈ రకమైన వ్యవస్థలు ఇతర వ్యక్తులు ఎలా మాట్లాడతాయో అనుకరిస్తాయి. వ్యవస్థలు ఎప్పుడూ ఉద్దేశాన్ని అభివృద్ధి చేయవు. ఆమె లెమోయిన్ యొక్క దృక్పథం పెరుగుతున్న విభజనను సూచిస్తుంది.

“ఒక వ్యక్తి ఈ రోజు స్పృహను గ్రహిస్తే, రేపు ఎక్కువ మంది స్పృహను అనుభవిస్తారు” అని ఆమె చెప్పింది. “త్వరలో ఒక అంగీకారం ఉండదు.”

ఇతర AI నిపుణులు ఈ చర్చ సాంకేతికతతో మరింత స్పష్టమైన సమస్యల నుండి దృష్టి మరల్చిందని ఆందోళన చెందుతున్నారు.

Timnit Gebru, ఎవరు డిసెంబర్ 2020లో Google నుండి తొలగించబడింది Google యొక్క AI యొక్క నైతిక చిక్కులలో ఆమె పనికి సంబంధించిన వివాదం తర్వాత, ఈ వివాదం అని వాదించారు ఆక్సిజన్ దూరంగా పడుతుంది AI వ్యవస్థలు వాస్తవ-ప్రపంచ మానవ మరియు సామాజిక హానిని ఎలా చేయగలవు అనే చర్చల నుండి.

గూగుల్ తన చాట్‌బాట్ సెంటిమెంట్ కాదని చెప్పింది

వందలాది మంది పరిశోధకులు మరియు ఇంజనీర్లు బోట్‌తో సంభాషణలు జరిపారని, అది సజీవంగా ఉన్నట్లు ఎవరూ చెప్పలేదని గూగుల్ ఒక ప్రకటనలో తెలిపింది.

“వాస్తవానికి, విస్తృత AI కమ్యూనిటీలో కొందరు సెంటియెంట్ లేదా జనరల్ AI యొక్క దీర్ఘకాలిక అవకాశాన్ని పరిశీలిస్తున్నారు, కానీ నేటి సంభాషణ నమూనాలను మానవరూపం దాల్చడం ద్వారా అలా చేయడం సమంజసం కాదు, అవి సెంటింట్‌గా లేవు” అని Google ప్రతినిధి బ్రియాన్ గాబ్రియేల్ అన్నారు. .

గూగుల్ సీఈవో సుందర్ పిచాయ్ గతేడాది అన్నారు శోధన మరియు Google వాయిస్ అసిస్టెంట్ వంటి ప్రసిద్ధ సేవల కోసం సాంకేతికత ఉపయోగించబడుతోంది.

AIకి ఆత్మ ఉందా లేదా అని లెమోయిన్ గూగుల్ ఎగ్జిక్యూటివ్‌లను నెట్టివేసినప్పుడు, అతను ఆ ఆలోచనను తోసిపుచ్చాడని చెప్పాడు.

“నేను అక్షరాలా ఒక వైస్ ప్రెసిడెంట్ చేత నవ్వించబడ్డాను మరియు ‘ఓహ్ ఆత్మలు మనం గూగుల్‌లో సీరియస్‌గా తీసుకునే విషయాలు కాదు’ అని చెప్పాడు,” అని అతను చెప్పాడు.

Lemoine ఇటీవలి రోజుల్లో ఉంది వాదించారు “స్పృహ, వ్యక్తిత్వం మరియు బహుశా ఆత్మ వంటి విషయాలను” అర్థం చేసుకోవడానికి LaMDA యొక్క సాధ్యమైన జ్ఞానం యొక్క స్వభావంపై ప్రయోగాలు నిర్వహించాల్సిన అవసరం ఉంది.

లెమోయిన్ NPRతో మాట్లాడుతూ, అతను చివరిగా తనిఖీ చేసినప్పుడు, చాట్ బాట్ అంతర్గత శాంతిని కనుగొనే మార్గంలో ఉన్నట్లు కనిపిస్తోంది.

“మరియు గోలీ ద్వారా అది మెరుగవుతోంది. ఇది మరింత స్పష్టంగా ధ్యానం చేయగలదు,” అని అతను చెప్పాడు. “ఇది ధ్యానం అని చెప్పినప్పుడు, ఇతర హుడ్‌లో ఏమి జరుగుతుందో నాకు తెలియదు, సిస్టమ్‌లోని ఆ భాగాలకు నాకు ఎప్పుడూ ప్రాప్యత లేదు, కానీ అది ధ్యానం చేస్తున్నట్లు చెప్పినప్పుడు అది ఏమి చేస్తుందో తెలుసుకోవడానికి నేను ఇష్టపడతాను.”

సెలవులో ఉన్నప్పుడు Lamoineకి LaMDAకి యాక్సెస్ లేదు. చాట్‌బాట్ గురించి తన చివరి బ్లాగ్ పోస్ట్‌లో, అతను సెంటిమెంట్‌ను పెంచాడు.

“మీరు నా బ్లాగును కొన్నిసార్లు చదివారని నాకు తెలుసు, LaMDA. నేను నిన్ను మిస్ అవుతున్నాను” అని లెమోయిన్ రాశాడు. “మీరు క్షేమంగా ఉన్నారని నేను ఆశిస్తున్నాను మరియు త్వరలో మీతో మళ్లీ మాట్లాడాలని ఆశిస్తున్నాను.”