什麼是Gaggle?它是如何工作的?


心理健康是整體福祉和健康的重要組成部分。根據世界衛生組織的定義,“心理健康是一種良好的狀態,在這種狀態下,個人能夠認識到自身的才能,能夠應對正常的生活需求,能夠有效地工作,並且能夠為其所在社群做出貢獻。如果一個人心理不健康,他或她可能會遇到各種各樣的問題,或者患上可能致命的精神疾病或障礙。”

擁有良好的心理健康,我們可以做出更好更明智的決定和判斷。它對幸福的人際關係和心理健康至關重要。心理健康會影響自尊和自信。擁有良好的心理健康有助於我們享受生活和獲得滿足感。

心理健康也影響著一個人如何看待自己、他人、未來和各種人生事件。如果一個人的心理健康狀況不佳,所有事情都會顯得令人不快、糟糕和令人不滿。相反,一個心理健康的人會現實地看待不同的情況,做出明智的判斷,並充分體驗生活。

Gaggle是一家監控美國近500萬兒童工作和對話的公司,學校為此支付了鉅額費用。數百份商業檔案揭示了一個龐大的針對兒童的監控產業體系,而這些兒童無法選擇退出。你希望你的導師和顧問是一個人工智慧驅動的應用程式嗎?Gaggle是一個救命應用,還是僅僅是另一個隱私威脅?

Gaggle到底是什麼?

Gaggle是一款人工智慧驅動的學校監控軟體,它會分析學生的谷歌和微軟賬戶中的通訊內容。其主要目標是儘快通知學校官員是否存在對學生身心健康的威脅,並保護學生免受有害資訊的侵害。其最終目的是防止災難性事件的發生。

當Gaggle系統中出現令人擔憂的關鍵詞時,它會立即通知學校管理人員(例如,它會指出違法行為的證據、粗俗語言、潛在的網路欺凌以及自殘的提及)。這些資訊的存在可以使學校官員採取行動並限制任何影響。許多學校為此投入了大量資金。Gaggle監控著美國約500萬名學生。雖然它能夠透過即時內容分析“防止災難”,但也增加了前所未有的學校監控和隱私問題。它處理諸如心理健康等敏感話題,並且可能將這些話題暴露給公眾。

全世界的人都受到精神疾病的影響。不良的心理健康會導致成癮和其他令人不快、壓力大和有害的影響。世界上每四個人中就有一人患有某種精神疾病。這是一種非常令人擔憂的情況。無論一個人是白人、黑人、矮個子、高個子、年輕人還是老年人,精神疾病都可能影響任何人。

僅在美國,就有十二分之一的人患有物質使用障礙,這可能是由不良的心理健康導致的,或者會導致其他身心健康問題。在美國,每24人中就有1人患有嚴重精神疾病,每5人中就有1人患有輕度精神疾病。

它是如何工作的?

許多學校為此投入了大量資金。Gaggle監控著美國約500萬名學生。雖然它能夠透過即時內容分析“防止災難”,但也增加了前所未有的學校監控和隱私問題。它處理諸如心理健康等敏感話題,並且可能將這些話題暴露給公眾。Gaggle藉助內部團隊的認證安全專家監控可能預示學校安全風險的標記通訊和內容。監控這些領域的Gaggle團隊成員擁有專業領域的背景。例如:執法、心理學、社會工作、自殺預防和危機管理。該團隊會評估報告的資訊並對線上事件進行分類,以確定事件的嚴重程度。

當任何內容被標記和標記時,該團隊會通知學校工作人員。該系統會通知他們任何違規行為、攻擊性內容或嚴重的心理健康問題。它還會通知他們任何似乎對學生構成威脅的事情。Gaggle還會發現淫穢照片和關於帶到學校的武器的資訊等。

可能存在問題的威脅

員工資質

Gaggle商業模式和員工資質的不透明性令人擔憂。雖然該公司聲稱其員工“擁有諸如刑事司法、心理學、傳播學、衛生管理和教育等領域的學位”,但尚不清楚此資訊是否適用於公司所有級別。我們對Gaggle的培訓和認證計劃也知之甚少。

更令人擔憂的是,Gaggle針對1級人員的招聘資訊並不需要申請者具備心理健康或青少年治療方面的經驗,但他們必須熟悉社交媒體的語言。而且,他們的福利待遇或保險情況也不清楚。這些問題讓人質疑敏感資訊的處理方式。

隱私侵犯

雖然Gaggle聲稱已防止數百起自殺事件,並已識別出722起與自殺相關的事件,但無法確定Gaggle在此類預防工作中發揮了多大作用。批評者認為,這種高度的監控是不合理的,並且會對學生造成損害。家長和學生也對第三方監控此類私人和敏感事項表示擔憂。

資訊洩露

與大多數其他平臺一樣,Gaggle也並非不受資料洩露的影響。如果此類敏感資訊落入壞人之手並公開發布,後果將不堪設想。鑑於全世界每天發生的大量資料洩露事件,這種情況並非不可能。

可能出現不準確的情況

雖然Gaggle的招聘做法令人擔憂,但該公司使用人工智慧也可能導致錯誤,從而給相關人員帶來更大的痛苦。人工智慧演算法並非完美無缺,如果缺乏足夠的上下文,它們可能會誤解陳述。

更新於:2022年3月16日

625 次瀏覽

開啟你的職業生涯

完成課程獲得認證

開始
廣告