我在的業內已經開始用AI訓練虛擬成員,維護,引導群組討論環境
如題
我們主要經營的是價格在 300 至 500 美金區間的流行輕奢商品。
作為行銷策略的一部分,我們與幾個小品牌合作,建立了幾個大型的社群平台,原本是希望打造一個輕鬆交流的資訊空間,也方便圈內人分享觀點與知識。
但經營了幾年後,陸續出現了一些問題。由於成本考量,我們並沒有聘請專業的社群經營團隊,管理工作大多仰賴資深成員。結果就出現了一個很棘手的狀況:資深成員對新人的排擠。這似乎是許多社群或論壇走到一定階段後的常見問題。
在不同的小圈圈中,逐漸出現了壓迫感與封閉的氣氛,導致不少成員變得不再活躍,甚至選擇退出。
大約在去年,有人提出利用 AI 訓練一批虛擬成員來維護社群氛圍、引導討論。當時我們抱著試試看的心態,讓他們去做。結果出乎我們意料:在一個上千人的群組中,只需要不到 20 個虛擬帳號,就能維持高質量的討論氛圍。
這些帳號一方面能適時壓制具有攻擊性的「資深遺老」,另一方面在他們正面貢獻時又能扮演捧場角色,給予情緒價值的回饋。
平常還能幫忙搬運新聞、整理資訊,針對年輕人偏好的話題提供餵料。在發生爭執時,這些帳號也能適時上場扮演和事佬的角色,成為潤滑劑。有了他們之後,管理員幾乎不需要再頻繁出面干預。
現在群組的活躍度明顯回升,發言的人變多了,甚至連一些過去習慣潛水的成員也開始主動參與討論。
我自己感受到,這些虛擬帳號最大的貢獻,其實不只是「潤滑」,而是他們穩定了整個群組的「價值觀底線」。當多數人看到一個理性、有建設性的討論氛圍,以及當負面行為出現時會有一群人跳出來制衡,大家就更願意去遵守這樣的行為規範。
這比由管理員直接封鎖或警告來得自然且有效得多,畢竟大家都知道,管理員也未必總是中立,他有他的立場與情緒。
這也讓我開始思考——如果政府在網路上也投入大約 5% 的虛擬角色,用來穩定與引導輿論氛圍,會產生什麼樣的效果。
我們主要經營的是價格在 300 至 500 美金區間的流行輕奢商品。
作為行銷策略的一部分,我們與幾個小品牌合作,建立了幾個大型的社群平台,原本是希望打造一個輕鬆交流的資訊空間,也方便圈內人分享觀點與知識。
但經營了幾年後,陸續出現了一些問題。由於成本考量,我們並沒有聘請專業的社群經營團隊,管理工作大多仰賴資深成員。結果就出現了一個很棘手的狀況:資深成員對新人的排擠。這似乎是許多社群或論壇走到一定階段後的常見問題。
在不同的小圈圈中,逐漸出現了壓迫感與封閉的氣氛,導致不少成員變得不再活躍,甚至選擇退出。
大約在去年,有人提出利用 AI 訓練一批虛擬成員來維護社群氛圍、引導討論。當時我們抱著試試看的心態,讓他們去做。結果出乎我們意料:在一個上千人的群組中,只需要不到 20 個虛擬帳號,就能維持高質量的討論氛圍。
這些帳號一方面能適時壓制具有攻擊性的「資深遺老」,另一方面在他們正面貢獻時又能扮演捧場角色,給予情緒價值的回饋。
平常還能幫忙搬運新聞、整理資訊,針對年輕人偏好的話題提供餵料。在發生爭執時,這些帳號也能適時上場扮演和事佬的角色,成為潤滑劑。有了他們之後,管理員幾乎不需要再頻繁出面干預。
現在群組的活躍度明顯回升,發言的人變多了,甚至連一些過去習慣潛水的成員也開始主動參與討論。
我自己感受到,這些虛擬帳號最大的貢獻,其實不只是「潤滑」,而是他們穩定了整個群組的「價值觀底線」。當多數人看到一個理性、有建設性的討論氛圍,以及當負面行為出現時會有一群人跳出來制衡,大家就更願意去遵守這樣的行為規範。
這比由管理員直接封鎖或警告來得自然且有效得多,畢竟大家都知道,管理員也未必總是中立,他有他的立場與情緒。
這也讓我開始思考——如果政府在網路上也投入大約 5% 的虛擬角色,用來穩定與引導輿論氛圍,會產生什麼樣的效果。
22 个评论
同志們晚了我其實就是palantir和台灣國防部的超級人工智能 愚人節快樂
繁体字区域的人们也用“情緒價值”这种表达方式?
草 这不就是网评员么
用AI来代替人肉网评员 对舆论导向这件事本身而言没有任何区别
所以我一直鼓励的是自己去思考 而不是跟风
用AI来代替人肉网评员 对舆论导向这件事本身而言没有任何区别
所以我一直鼓励的是自己去思考 而不是跟风
我一直都在说共匪操纵的AI僵尸水军早已在全世界抢舆论话语权,曾经是简中的每一个文本框,很快就会是全世界每一个文本框
这才是真正的1984老大哥完成态
这才是真正的1984老大哥完成态
看恁支不就是了,恁支不止投入了5%吧。
至于效果,恁支本来也不是想要塑造一个和谐的环境,哪怕是和谐舔支都不行。屁民必须斗
至于效果,恁支本来也不是想要塑造一个和谐的环境,哪怕是和谐舔支都不行。屁民必须斗
這篇文章有許多令人深思的地方。
我很感興趣的一個地方是,把AI撤離,那麼那個論壇還能保持良好的風氣嗎,還是良好的風氣必須依靠AI維持呢?有什麼是AI能做到,而人類無法做到的,具體區別在哪裡?
我很感興趣的一個地方是,把AI撤離,那麼那個論壇還能保持良好的風氣嗎,還是良好的風氣必須依靠AI維持呢?有什麼是AI能做到,而人類無法做到的,具體區別在哪裡?
>> 這篇文章有許多令人深思的地方。我很感興趣的一個地方是,把AI撤離,那麼那個論壇還能保持良好的風...
我覺得一個是社會性吧,我不知道這是不是類似日本職場文化一樣的東西
當一個社會有很多聲音會主動出來做評斷,為事情發聲,不需要跟別人滿地打滾去辯論一件事情的時候後
一個默契形成,就不太容易出現低級現象
這些ai不需要太激烈表述或者介入的行為,就能產生一種氛圍一種壓力去影響別人
像是資深遺老是很難處裡的話,我們是設定讓ai用其他話題快速沖洗一遍,類似"你的問題發言別人不感興趣"這種信號
有意思,我想多了解下如何操作的,在哪可以获得更多信息?楼主能推荐一下吗?
但這樣討論區的核心就變成AI,到底是人的討論區還是AI的討論區。而且AI是否中立並不取決於AI,而是AI的使用者,當管理方操縱輿論時這些AI就會成為強力的評論員。
使用AI训练网评员更有效地引导舆论。原人肉网评员转型为AI的人肉电池
AI相当于一个完全不会动气的人,谁也无法戳中ta破防的点,现实中的人因为成长背景和文化因素,有各种机会,原本还在正常讨论的人,突然破防开淦。
ccp的网评员又要回去踩缝纫机了,喜闻乐见
您的研究实在是大有前途。
我现在就是把不友善的长篇大论,直接交给chatgpt,让gpt提炼出论点和论据。
就连刘仲敬的长篇黑话,也交给gpt概括论点论据。
我现在就是把不友善的长篇大论,直接交给chatgpt,让gpt提炼出论点和论据。
就连刘仲敬的长篇黑话,也交给gpt概括论点论据。
Yeha~ 人们的底限交给机器了, 那么恶人就可以透过修改或替换机器让所有机器没底限. 那么人呢? 当大多数人的底限交给机器了, 那么人就被还原成了大规模分子机器.
>> 您的研究实在是大有前途。我现在就是把不友善的长篇大论,直接交给chatgpt,让gpt提炼出论...
我覺得還是ai可以直接過戳破低級前後矛盾的言論
因為大部分人真的沒有精力去分析一看就沒有營養的東西
>> 但這樣討論區的核心就變成AI,到底是人的討論區還是AI的討論區。而且AI是否中立並不取決於AI...
我們設定ai是像NPC一樣,避免發表主觀觀點言論,因為話越多,主觀性越強ai會顯得越不自然
而且群組本來就是我們觀察客戶反映的重要渠道,搶風頭的的ai會本末倒置