在醫(yī)療保健中使用人工智能聊天機(jī)器人需要一種全面的方法來解決重要的考慮因素。從數(shù)據(jù)培訓(xùn)到安全措施和道德實(shí)踐，必須實(shí)施廣泛的預(yù)防措施。人類監(jiān)控、用戶教育和降低擬人化風(fēng)險(xiǎn)是需要關(guān)注的關(guān)鍵方面。

了解持續(xù)監(jiān)控和反饋如何提高透明度、用戶安全、隱私保護(hù)和提供可靠信息。

我最近讀到關(guān)于國(guó)家飲食失調(diào)協(xié)會(huì)的一篇文章的驚人發(fā)展，以及由于人工智能聊天機(jī)器人傳播有害建議而必須刪除它的必要性（來源）。這讓我想到了一個(gè)令人擔(dān)憂的事件，據(jù)報(bào)道，一個(gè)醫(yī)療聊天機(jī)器人利用OpenAI的GPT-3指示假病人傷害自己（來源）。

這些實(shí)例，即使被認(rèn)為是附帶現(xiàn)象，也提出了關(guān)于在醫(yī)療環(huán)境中使用人工智能增強(qiáng)聊天機(jī)器人的可行性的關(guān)鍵問題。在將生成式人工智能與聊天機(jī)器人集成用于醫(yī)療保健目的時(shí)，需要采取一些預(yù)防措施。

準(zhǔn)確性和可靠性

為了保持安全性以及準(zhǔn)確性和可靠性，應(yīng)注意確保信息的安全傳遞。負(fù)責(zé)生成響應(yīng)的人工智能模型必須使用涉及人工驗(yàn)證的方法對(duì)經(jīng)過驗(yàn)證的數(shù)據(jù)進(jìn)行訓(xùn)練，從而避免傳播不正確或潛在危險(xiǎn)的信息。人工智能模型的定期更新和改進(jìn)應(yīng)反映最新的醫(yī)學(xué)知識(shí)并遵守法律準(zhǔn)則。

為了保護(hù)患者的個(gè)人健康信息，必須實(shí)施強(qiáng)有力的安全措施，并遵守?cái)?shù)據(jù)隱私法規(guī)，如HIPAA（健康保險(xiǎn)流通與責(zé)任法案）或GDPR（通用數(shù)據(jù)保護(hù)條例）。

還應(yīng)整合有關(guān)在醫(yī)療保健中使用人工智能的道德考慮，包括避免偏見、獲得知情用戶同意以及透明地承認(rèn)人工智能參與對(duì)話。《人工智能法案》可以作為一個(gè)有價(jià)值的指導(dǎo)框架。

人工監(jiān)控

人類監(jiān)測(cè)和干預(yù)在確保負(fù)責(zé)任地使用人工智能方面發(fā)揮著至關(guān)重要的作用。人類專家應(yīng)參與關(guān)鍵階段，包括培訓(xùn)、更新、監(jiān)測(cè)對(duì)話以及在必要時(shí)進(jìn)行干預(yù)。他們應(yīng)該能夠?qū)彶槿斯ぶ悄苌傻捻憫?yīng)，提供澄清，并處理需要人類同理心和理解的復(fù)雜或敏感情況。

一旦我們說了這么多，我們就不能忽視用戶教育。我們需要確保使用對(duì)話式AI的患者能夠清楚地了解基于AI的聊天機(jī)器人有其局限性。人工智能有其局限性。雖然對(duì)話式人工智能解決方案可以成為很好的工具，但應(yīng)鼓勵(lì)用戶咨詢醫(yī)療保健專業(yè)人員，以獲得個(gè)性化、全面的醫(yī)療建議。

擬人化的風(fēng)險(xiǎn)

使用基于人工智能的聊天機(jī)器人的一個(gè)重大風(fēng)險(xiǎn)是擬人化，患者錯(cuò)誤地將類似人類的品質(zhì)和情感歸因于聊天機(jī)器人。由于缺乏真正的人類理解和同理心，這可能會(huì)導(dǎo)致不切實(shí)際的期望、誤解和潛在的有害情況。為了降低這種風(fēng)險(xiǎn)，透明的溝通至關(guān)重要?；颊邞?yīng)該意識(shí)到聊天機(jī)器人是基于人工智能的程序，而不是人類，對(duì)其功能設(shè)定了切合實(shí)際的期望。

一種方法是更透明地溝通。這意味著向患者明確表示聊天機(jī)器人是基于人工智能的程序，而不是人類。這允許在充分了解事實(shí)的情況下對(duì)其能力和局限性設(shè)定現(xiàn)實(shí)的期望。

這可能意味著在聊天機(jī)器人的界面中包含警告或上下文消息，提醒用戶他們正在與人工智能而不是人類互動(dòng)，即使這“看起來很明顯”。汽車制造商確實(shí)在后視鏡上發(fā)出警告：“鏡子中的物體比看起來更近”！

也許第一步是設(shè)計(jì)不會(huì)過于模仿人類外表或行為的聊天機(jī)器人。設(shè)計(jì)一個(gè)視覺識(shí)別或強(qiáng)調(diào)人工智能本質(zhì)的獨(dú)特線索可能是有意義的。

同樣，為什么不以加強(qiáng)其AI性質(zhì)的方式生成聊天機(jī)器人提示和響應(yīng)呢？例如，通過使用與C3PO風(fēng)格的AI系統(tǒng)的陳詞濫調(diào)完全對(duì)應(yīng)的語言和響應(yīng)，避免過于情緒化或人為的表述。

在保持機(jī)密性的同時(shí)持續(xù)監(jiān)控用戶與聊天機(jī)器人的交互至關(guān)重要。收集反饋并根據(jù)用戶體驗(yàn)進(jìn)行改進(jìn)可以提高透明度并減少擬人化傾向。

結(jié)論

總之，通過考慮這些預(yù)防措施，可以在醫(yī)療保健環(huán)境中負(fù)責(zé)任地將生成式人工智能與聊天機(jī)器人集成。在整個(gè)過程中，用戶安全、隱私保護(hù)和可靠信息的傳遞應(yīng)放在首位。

審核編輯：郭婷