嘈杂而清晰
我们面对面交谈时,传递的信号不只言语一种。我们可以通过身体姿势,面部表情以及头部和眼球的动作进行交流,也可以通过人说话的节奏交流。一个很好的例子就是连续说话时的发音频率——约每秒3-7个。一次对话中,倾听者会调整到这种节奏并依此来估计说话者接下来所发音节的时刻。这使得倾听者更容易听清谈话的内容。
其他信号也在传递着。例如即使没人说话,我们也能通过大脑成像技术知晓,大脑中负责听觉的一部分能够以相似的发音频率产生节律性活动。当我们听别人讲话时,这些大脑活动就会调整到与音节结构相适应的频率。然后,脑波律动就会追踪说话者的语音信号并与之匹配。
节奏完美匹配
众所周知,倾听者也可以通过讲话者的唇部动作接收信号。这些动作往往发生在言语之前——例如,张开嘴巴,它们能对讲话者要说的内容提供很好的暗示。然而即便听不到任何语言,唇部动作含有的信息也足够使受训观察者明白讲话的内容——因此,一些人可以读唇。到目前为止,我们仍不清楚倾听者的大脑如何处理这些动作信息。
对口型
这就是我们最近研究的主要内容。我们已经了解不仅讲话者的声带可以产生发音节奏,其唇形变化也可以。我们想要探究在持续讲话过程中,倾听者的脑波是否会与讲话者的唇形变化相一致,就如同脑波与讲话声音那样去相匹配——这一点对于理解讲话内容是否很重要。
我们的研究首次证实了确实是这样。我们记录了44个健康志愿者在看叙事类电影时的大脑活动。我们发现如同大脑的听觉部分,大脑视觉部分也会产生某种韵律。连续讲话过程中,这些脑部活动会自动与讲话者嘴唇产生的发音韵律相匹配。我们在原有讲话中添加写噪声让倾听变得更加困难,这意味着讲故事的人的唇形变化对于理解讲话内容更加重要,两种韵律间的配合就更加准确。
唇形相助
另外,我们发现倾听者大脑中控制唇形变化的部分也会产生脑电波与讲话者的唇形变化相匹配。这些脑电波与讲话者大脑控制部分产生的脑电波匹配的越好,倾听者对讲话内容的理解就越好。这就证实了控制讲话的大脑区域对于理解讲话内容同样重要,这也暗示了有听觉障碍的人可以去学习读唇来理解讲话内容。证实了这一点之后,我们还要弄清楚双向交流过程中是否同样产生大脑节奏性活动。
为什么这些观点很有趣?因为假如真是如此:通过使脑部韵律与讲话韵律匹配(类似于把收音机调到特定频率收听某一电台)建立一种交流渠道后,交谈往往就起作用了。我们的结果表明必要时可以采取其他方式形成相匹配的韵律进行沟通。那么我们不仅可以让自己调整到与讲话者声带发声的节奏相匹配的韵律,同样可以与它们唇形变化的节奏相匹配。除了运用大脑听觉部分外,我们还可以通过大脑中的视觉部分和唇形变化控制部分达到这样的效果。
你也无需专门去训练读唇——这就是为什么在酒吧或聚会这样嘈杂的环境中大多数人仍能互相交流的原因。
翻译:戎有英 审校:海带丝
注:所有文章均由中国数字科技馆合作单位或个人授权发布,转载请注明出处