空中寫字就能溝通-大學生幫助聾啞人士「比出聲音」

減少不平等

為幫助聽覺和言語功能受限者解決溝通障礙,中原大學團隊開發了Easy Chat+,一款專為聾啞人士打造的輔具。該裝置利用鏡頭捕捉手寫軌跡和手勢辨識技術,讓聾啞人能夠在空中書寫,通過識別手寫字母後,利用OLED螢幕顯示文字和喇叭輸出聲音,實現了一般人和聾啞人之間即時且便捷的對話。這樣的創新不僅為聾啞人士提供了更直接的溝通方式,也有助於減少溝通中的誤解和隔閡。

電機系同學實穿Easy Chat+成品示意圖。 圖/中原大學電機系
電機系同學實穿Easy Chat+成品示意圖。 圖/中原大學電機系

中原大學電機工程學系廖裕評教授,專攻機器人、人工智慧相關領域,多次指導系上學生參加競賽並獲獎,廖教授組建AiOT團隊,專門研究將AI人工智慧與IOT物聯網的結合運用。商業設計系的施昌甫助理教授,專長在於產品設計開發,以及行動輔具設計,曾帶領商設系學生與廖教授的團隊合作參賽,並在競賽中奪金。而這次的Easy Chat+聾啞人士溝通輔具,便是廖裕評與施昌甫指導兩系學生合作打造出的輔具,減少聾啞人士的溝通困難。

電機x商設跨界合作 改善聾啞人溝通困境

Easy Chat+聾啞人士溝通輔具,是電機系與商設系學生在老師們的帶領下,打造出能造福聾啞人士的機器。電機系負責機器內部製作,確保其能正常運行、商設系負責外觀,設計出能集各種設備於一體並解放雙手的穿戴裝置。

電機系的葉家妤同學,在中原大學特殊資源中心擔任課業輔導協助,在過程中,她發現有的特殊生其實很聰明,只是因聽力障礙,他們無法向教授清楚地表達自己的想法,也很難與一般人交流。儘管現階段已有一些空中書寫識別的研究,但這一領域的實際應用卻不多,因此團隊決定以醫療輔具為方向,打造利用空中書寫來識別文字,讓聾啞人士實現即時溝通的裝置。團隊中僅有葉家妤同學接觸過聾啞人士,於是透過葉家妤的相關經驗,團隊共同討論了他們可能的需求,並將手寫作為最直接的溝通方式。同時設計了手寫、清除、中斷、儲存等手勢功能,與商設系聯手,試著協助聾啞人士跨越障礙,解決他們長期以來面臨的溝通困難。

商設系同學在外觀設計上,會優先考量輔具內的電路板、電池、風扇等零件所需要的空間,並為求使用者穿戴後,雙手依然能靈活運用,選用「背心」作為輔具外觀。後由商設系同學負責找出團隊想要的背心形式,先畫草圖、再設定它的材質和配色,還有同學們想要呈現給使用者的整體感受和樣貌。經討論後由電機系同學基於草圖製作建模,並套用在模特兒身上,定案後商設系同學就會去尋找所需的布和材料作剪裁拼貼。

兩系克服困難 共創金牌輔具

早期團隊針對大主題進行討論階段,商設系同學在設計時通常從人的角度出發,著重研究使用者的需求,思考在特定場景下,用戶可能需要什麼樣的協助、服務或設計上的需求,以創造更人性化的穿戴式輔具,比如布料的選擇上,挑了輕薄透氣的材質,讓使用者即便在炎熱的天氣下穿戴,也不會感到太悶熱。這些設計構想在初期討論時,大家都認為這些方向並無大礙,於是開始進行具體的規劃製作。

對於專攻產品設計的商設系來說,縫紉幾乎是陌生的領域,為了完成裝置的製作,同學特地去找織品加工店和專門修改衣服的裁縫鋪取經,除了詢問裁縫建議,也向他們尋求技術和器具上的幫助,但因作品偏向客製化的專業輔具,與樣式較有規律的服飾不同,曾遭不少店家拒絕,好在仍有願意協助指導的店家,讓同學能順利進行縫製。

而在技術開發上,初期設計階段,電機系同學花費了大量時間,思考如何站在使用者的角度,設身處地地考慮,通過與相關人士的訪談和諮詢來逐步完善了作品。在技術層面上也花費許多心力設計結合了手勢辨識和食指指尖軌跡追蹤的空中手寫功能,接著大量收集了空中手寫圖片,建立模型並進行測試,再根據使用方法設計模式和功能,最終將軟體技術(Python端)和硬體(BMduino端)整合,BMduino硬體是倍創公司針對非工程背景用戶開發平台的系統特別設計的產品。分成開發板、擴充板和模組,開發板即是用程式來控制擴充板和模組。在Easy Chat+上控制選擇的模式。克服了電腦硬體與軟體結合的限制,設計出了輕巧便利的裝置。並與商設系同學討論設備的擺放和外型設計,以確保最終的設計能夠符合使用者的需求。

施昌甫表示,參與計畫的學生們都表現出了認真積極的態度。通過師生之間不斷的討論在電機系的計畫基礎上,融入商設系學生的想法,為器具帶來更多發展的可能性。他們最終在最短的時間內成功製作出了聾啞人士溝通輔具,並且在由盛群半導體公司舉辦的「盛群盃(HOLTEK MCU)創意大賽」中榮獲了「創意產品設計組」金牌。

由中原大學兩系團隊所設計的Easy Chat+在賽中一舉奪金。 圖/電機系團隊提供
由中原大學兩系團隊所設計的Easy Chat+在賽中一舉奪金。 圖/電機系團隊提供

辨識技術優化 溝通全靠比劃

Easy Chat+包含手寫和語音兩種模式。在手寫模式下,使用者可以進行空中書寫,系統透過鏡頭辨識文字後在手部裝置及胸前OLED螢幕上顯示出來,並在手部裝置選擇輸入是否正確;而在語音模式下,系統會將文字轉換成語音,並用喇叭播放出來。在使用過程中,使用者可以切換模式,控制文字辨識是否正確、是否繼續書寫和播放語音,實現即時溝通的需求,使得溝通對於聾啞人士和其他人之間變得更加容易。

在使用Easy Chat+之前,使用者把手平舉於攝影機前做為啟始指令,接著用戶就可以開始在空中書寫,裝置會即時辨識並顯示文字,輸入完畢後,用戶只需再次做出相同的手勢,作為結束指令,裝置辨識後即於顯示螢幕生成一段完整句子。假設現在要使用Easy Chat+來向對方傳達「OK」的訊息,那首先先在書寫前,用食指比一個「1」,讓Easy Chat+知道我們即將開始寫字;然後寫完字母「O」後,比「5」將字母O儲存;下一個字母不小心寫錯的話,只需要比個「倒讚」,就能將錯誤字母清除;接著再寫「K」,寫完K做邊的豎線後,先比個「耶」,讓Easy Chat+知道這是第一劃,然後再把剩下的部分寫完,做出儲存手勢,「OK」就寫完了。

從分工上來說,電機系同學的團隊負責技術上的功能研發,他們利用感應器來實現文字辨識功能,通過攝影機抓取手部的骨架,並將其轉換成相關的數據,最終顯示在螢幕上;商設系同學在外觀上面選用背心作為穿戴容器,裡面承載電池、顯示幕、硬碟和喇叭,還包括風扇等許多配件所以背後需要有一個比較大型的空間去置放。因此這個階段在設計上還沒有太多造型的規劃,而是以可操作、可穿戴為主,先在外觀上設計出完整的架構,是偏向原型的製作。

easy chat使用方式。 圖/楊詠婷製
easy chat使用方式。 圖/楊詠婷製

產品初顯雛型 望能廣泛應用

施昌甫表示,雖然目前器具並無使用實例,也暫無商業團隊的合作邀約,但Easy Chat+商業化的潛力仍是樂觀的。Easy Chat+所面對的市場需求確實存在,且該設計仍處於初期階段,雖然功能已經可以正常使用,但在體積、重量、外觀等部分,仍有很大的改進空間。

Easy Chat+的製作初衷是設計成一個背心,讓使用者無需再拿任何物件,從而能夠釋放雙手,並確保裝置輕巧。然而,裝置的外觀在製作過程中也遇到不小挑戰,因為需要放置顯示器、攝影機、喇叭等多項配件,裝置外觀的選擇性,也因條件限制減少了。

在測試過程中,電機系學生也反映在操作上可能需要熟悉一些手勢,如清除、中斷、儲存等指令,而且受限於軟硬體的計算能力,可能會導致在空中手寫的過程中無法像實際拿筆寫字那樣順暢,但根據同學們的實測結果,文字辨識的準確率相當高。電機系楊崴婷同學表示,未來或許可以增加不同的使用者介面與體驗,讓使用者操作上更加直覺,並針對原先軟硬體更加精進與改善。

未來,隨著技術進步和設計的改進,Easy Chat+或許可以將各個配件整合到一個更小、更輕便的盒子或設備上,這樣就不需要像背心如此大的空間。目前裝置內部包含了風扇、電池、主機板等組件,使得團隊需要選擇背心這種較大空間的裝置來置放,但隨著技術的進步,這些組件可以更加精簡,從而減少裝置的體積和重量,使操作和攜帶變得更加方便。

因Easy Chat+目前的可塑性很高,施昌甫提到,假若稍微更改功能模式,也許可以將其應用到其他弱勢族群上,那麼Easy Chat+就不再僅是為聾啞人士服務的輔具了,它也能造福其他弱勢族群,這樣的展望充滿希望,期待Easy Chat+的出現能夠在未來發揮作用,為社會帶來正能量和幫助。

商設系吳宣、葉念築同學與施昌甫助教授共同討論外觀設計。 圖/施昌甫提供
商設系吳宣、葉念築同學與施昌甫助教授共同討論外觀設計。 圖/施昌甫提供

採訪側記:

在這次與施昌甫老師的訪談中,我們首次接觸到與醫療輔具相關的議題,施昌甫老師還額外分享了,關於他自己公司製作的各種輔具,但該領域畢竟不是我們的專長,在理解時必然會有許多困惑,好在施昌甫老師對我們是有問必答,讓這場訪談能夠順利進行。

本文授權轉載自《生命力新聞》(原文標題:空中寫字就能溝通 中原大學打造聾啞輔具


「一個人為社會付出很辛苦,但一群人就不會寂寞。」每個人都可以用自己的方式成為倡議家!

追蹤【倡議+】粉絲團:FacebookInstagram

收聽【倡議家電台】Podcast:在Apple Podcast收聽、在Spotify收聽、在KKBOX收聽、在Google Podcast收聽,或搜尋「倡議家電台」。

https://pgw.udn.com.tw/gw/photo.php?u=https://uc.udn.com.tw/photo/author/photo/2212.jpg

生命力新聞

生命力新聞創刊於1997年,是輔仁大學新聞傳播學系的教學實驗媒體,致力於報導社會創新故事,也就是用新觀念、新策略、新組織、新科技來解決社會問題的實踐範例。

作者文章

三峽碧螺春83歲茶王—黃文雄堅持手工製茶、虎頭蜂自然農法

三峽碧螺春83歲茶王—黃文雄堅持手工製茶、虎頭蜂自然農法

1919食物銀行:填補社會福利的缺口 讓食物不只是食物

1919食物銀行:填補社會福利的缺口 讓食物不只是食物

下鄉絕育31萬隻浪浪!台灣之心深入偏鄉為流浪貓狗結紮、推進動保教育

下鄉絕育31萬隻浪浪!台灣之心深入偏鄉為流浪貓狗結紮、推進動保教育

「庫存布」華麗轉身!初布讓廢布變團體服 打造零浪費的循環經濟

「庫存布」華麗轉身!初布讓廢布變團體服 打造零浪費的循環經濟

最新文章

「加油」響應國際身障日!扶輪社齊聚陽光加油站 倡議DEI多元共融

「加油」響應國際身障日!扶輪社齊聚陽光加油站 倡議DEI多元共融

1919食物銀行:填補社會福利的缺口 讓食物不只是食物

1919食物銀行:填補社會福利的缺口 讓食物不只是食物

有聲號誌變啞巴號誌?被閒太吵、被居民蓄意毀損 視障者過馬路好難

有聲號誌變啞巴號誌?被閒太吵、被居民蓄意毀損 視障者過馬路好難

導盲線畫虎爛?行穿線NG亂象...視障者行的正義還差一哩路

導盲線畫虎爛?行穿線NG亂象...視障者行的正義還差一哩路

望聞問切為社會治未病 馬光中醫把脈地方強健永續幸福

望聞問切為社會治未病 馬光中醫把脈地方強健永續幸福

獵人英雄淪狗熊...王光祿案落幕後 原民狩獵權益仍無解

獵人英雄淪狗熊...王光祿案落幕後 原民狩獵權益仍無解