Original size 1140x1600

Синестезия в звуке как средство выразительности

PROTECT STATUS: not protected
4
This project is a student project at the School of Design or a research project at the School of Design. This project is not commercial and serves educational purposes
The project is taking part in the competition

«А — черно, бело — Е, У — зелено, О — сине, И — красно… Я хочу открыть рождение гласных»

Артюр Рембо, «Гласные»

Концепция

Синестезия — феномен, при котором воздействие на один орган чувств задействует другие органы чувств. Людей, обладающих данной особенностью восприятия, называют синестетами. Люди-синестеты способны видеть цвет звуков, тактильно ощущать вкусы, слышать то, что на самом деле не звучит.

Как правило, врождённым синестетам из-за невозможности абстрагироваться от дополнительного источника информации синестезия усложняет жизнь, она становится особенностью, с которой человеку необходимо научиться уживаться в обществе.

В искусстве же этот феномен — мощное средство выразительности. Часто к нему прибегают в иллюстрации, пытаясь усилить впечатления зрителя от изображения, вложив в него запах или текстуру. Из-за своей специфики синестезия как приём используется в ряде других дисциплин: в перформансе, звуке, музыке, поэтике, лингвистике. При помощи синестезии авторы произведений стараются вызвать у зрителя или слушателя ассоциации с другими образами и чувствами.

Иллюстрации. «Шумные» рыбы Валерио Видали и «сладкие» «ватные» волны Моники Рамос, 2018 и 2021 года

В науке выделяют множество видов синестезии, наиболее часто встречаемые: музыкально-цветовая синестезия (способность слышать цвет музыки), пространственно-временная (способность воспринимать время как пространство), графемно-цветовая (видеть цвет цифр и букв, даже если все они напечатаны одинаковой краской).

Существуют и более редкие виды синестезии, например, синестезия зеркального прикосновения (синестет ощущает прикосновение на себе, когда видит, как прикасаются к другому человеку), порядковая лингвистическая персонификация (синестезия при которой разные последовательности связаны с личностями или полами), числовая линия (ментальная карта с числами, непроизвольно возникающая в сознании синестета, когда он думает о цифрах) и другие.

Все виды феномена восприятия ещё не открыты учёными, а многие из известных видов синестезии остаются плохо изученными из-за редкости рождения синестетов.

В данном исследовании рассматриваются виды синестезии связанные со звуком, а также их способы применения в искусстве в качестве средств выразительности.

Исследовательская работа разделена на две составляющие: 1. Изучение и классификация видов звуковой синестезии. 2. Виды и способы применения звуковой синестезии в искусстве.

Original size 3500x461

Первая часть подразделена на пункты, посвященные тому или иному виду синестезии, выделенной в научной классификации. Каждый пункт подкреплён визуальными и/или аудио примерами в зависимости от типа синестезии для наглядного представления описанного феномена.

Вторая часть исследования посвящена классификации наиболее часто встречающихся способов применения перечисленных видов синестезии в искусстве. Эта часть также подразделена на пункты по способам, каждый пункт подкреплён примерами. Работы, представленные в исследовании, принадлежат годам XVIII–XXI веков включительно.

Виды синестезии, связанной со звуком

Музыкально-цветовая

Музыкально-цветовая синестезия — один из самых распространенных видов синестезии.

Музыкально-цветовой синестет может воспринимать музыку как набор цветов. Один из наиболее известных синестетов-живописцев, Кандинский, создавал картины, в которых шифровал музыку. Белый и чёрный цвет вызывал у Кандинского ассоциации с тишиной (белый цвет — приятная тишина, чёрный — безнадёжная), голубой — партия флейты, синий — виолончели или органа, красный — скрипки, жёлтый — трубы.

Original size 3500x461

Живописец не оставил никаких звуковых расшифровок своих работ, однако это не помешало исследователям создать на платформе Google & Culture интерактивный проект «Сыграйте Кандинского».

На основе данных о творчестве живописца, его интервью, учениях о цветах и их восприятии и на основе воспоминаний художника была создана и обучена нейросеть, способная воспризводить музыку из отдельных фрагментов картин Кандинского. На платформе проекта представлена звуковая раскладка картины «Красный-жёлтый-голубой».

Loading...

В музыке же явление музыкально-цветовой синестезии хорошо освящено композитором Александром Скрябином. Ноты разной тональности означали определённые цвета для музыканта: до-мажор — красный, ре-мажор — желтый, соль-мажор — оранжево-розовый, ля-мажор — зеленый.

Original size 3500x2480

Соотношение цвета и нот по Скрябину

Эффект синестезии композитор активно использовал в своём творчестве, Скрябин считал, что цвет способен подчёркивать музыку.

В своей поэме «Прометей» музыкант создал «световую строку» — часть гармонии, которая должна была сопровождаться цветами излучаемыми специальным световым аппаратом. Из-за сложности устройства поэму долгое время исполняли без светового сопровождения, лишь в домашних условиях Скрябин давал концерты со всеми необходимыми составляющими, используя небольшой световой диск.

Original size 1442x823

Светомузыкальный аппарат для поэмы Скрябина «Прометей», А. Э. Мозер, 1910 г.

Так как видеотехники при жизни Скрябина не существовало, доподлинно неизвестно, как выглядела световая строка, однако современные авторы не оставляют попыток по-своему интерпретировать произведения композитора.

Ниже представлен фрагмент из концерта академического симфонического оркестра филармонии с поэмой Александра Скрябина «Прометей», сопровождённой световой партитурой.

Loading...

К музыкально-цветовой синестезии прибегают и современные авторы. Так Алексей Корн, пианист-синестетик, публикует свои записи игры на инструмента, в которых предлагает зрителям закрыть глаза и представить цвет музыки.

Синестезия в произведениях помимо эстетической функции, берёт на себя функцию коммуникации со зрителем: зритель представляет цвета, дополняя полученную звуковую информацию цветовыми ассоциациям, и оставляет отзыв о том, какого цвета для него звучала музыка, сравнивая свои ответы с ответами других пользователей. Зачастую среди комментариев к тем или иным композициям находится наиболее часто встречающийся цвет.

Алексей Корн — игра на пианино, 1 запись
1 min

Большинство комментаторов сошлись на том, что аудиозапись имеет синие и голубые оттенки. Второй по популярности ответ — зелёный. Некоторые комментарии дополнялись описанием запаха, например, для кого-то композиция пахнет морем.

Алексей Корн — игра на пианино, 2 запись
1 min

Все комментаторы практические единогласно сошлись на глубоком фиолетовом цвете и его оттенках, проводя ассоциации с мечтами и снами.

Алексей Корн — игра на пианино, 3 запись
1 min

Самый популярный ответ — жёлтый. Дополнительные визуальные ассоциации: лучи солнца, лето, полевые цветы.

Формо-звуковая

Синестезия также может возникать на основе формы и звука. Например, синестет при виде круга может сказать, что он звучит как пение птиц. Причём данный вид синестезии может частично распространяться и на обычных людей, но не посредством обработки информации отделами мозга, отвечающими за звук, а через ассоциативные ряды.

В 2001 году неврологи Вилейанур Рамачандран и Эдвард Хаббард провели эксперимент, каждому участнику эксперимента были показаны две фигуры, участникам требовалось сказать, какая фигура, по их мнению, называется «буба», а какая «кики».

Original size 2560x1306

Рисунок из теста «Буба-кики», 2001 г.

95 % участников назвали «бубой» округлую фигуру, а остроугольную — «кики».

Такой эффект может возникать по разным причинам, например, из-за визуальных ассоциацией: буква «б» во многих алфавитах мира имеет округлую форму, а «к» напротив угловатую. Так же причиной такого распределения могут быть телесные ощущения: когда человек произносит слог «бу», губы округляются, когда же слог «ки» уголки губ немного приподнимается, создавая острую форму.

Третий вариант — выбор людей неосознанно подчиняется шаблонным ассоциативным рядам, например: «б» — булькание — шарики воздуха в воде — безопасность — округлая форма, «к» — кряхтение и шипение хищников — когти — опасность — острая форма.

Кроме того, эффектом синестезии пользовались тибетские монахи ещё в 19-том веке при создании нотных партитур.

Original size 4362x2650

Нотные партитуры тибетских монахов, 19 в.

Партитуры, состоящие из непрерывных линий, передавали не только саму мелодию, но и её настроение и даже манеру исполнения с тембром голоса. Таким образом, звук записывался не в графемы, а в отдельные формы, что художественно дополняло произведение. Из-за отсутствия точной системы в настоящее время исследователи сталкиваются со сложностями в расшифровке партитур, тем не менее, существуют реконструкции некоторых из них.

Отрывок из игры тибетской ритуальной музыки
2 min

Акустико-тактильная

Акустика-тактильная синестезия — один из нечасто встречаемых видов синестезии, при которой человек-синестет способен воспринимать звуки в виде тактильных ощущений, например, в форме покалываний в определённых частях тела или прикосновений. Иногда тактильные реакции сопровождаются температурными ощущениями.

Несмотря на редкость данного феномена, многие люди, не являясь синестетами, обращаются к акустико-тактильным метафорам, описывая услышанное.

Original size 3500x461

Причина этому — существующие биофизические процессы. Обыкновенное урчание в животе — это процесс, который человек тактильно ощущает внутри своего тела и одновременно отчётливо слышит. Другой пример: музыкальные композиторы нередко ставят перед собой цель «вызвать мурашки у слушателей», то есть создать условия для появления эффекта фриссон. Эту ответную физическую реакцию организма может испытать любой человек вне зависимости от того является он синестетом или нет.

К тому же, музыка — это звуковые вибрации, которые вполне способны физически воздействовать на людей. Например, часто громкую музыку можно описать как «музыку, бьющую по ушам», подразумевая, что она сильно воздействует на барабанные перепонки. Именно из-за существующих биофизических процессов в организме люди, будучи даже не знакомыми с феноменом синестезии, прибегают к тактильным ассоциациям.

Для подтверждения этой теории была собрана и опрошена фокус-группа из десяти человек.

Все участники группы слушают музыку, относящуюся к таким жанрам как эмбиент, фолк, рэп, реже синти-поп и джаз. При этом участники крайне редко слушают рок и практически никогда не добавляют в плейлисты хеви-метал и нойз музыку.

В рамках исследования людям из фокус-группы в индивидуальном порядке выдавали наушники с играющей в них нойз-композицией. От испытуемых требовалось послушать фрагмент песни и описать свои ощущения от прослушивания, при этом участникам эксперимента не раскрывалась тема исследования. Предполагается, что испытуемые получат негативный опыт от композиции и в рамках описания ощущений прибегнут к акустико-тактильным метафорам.

Арси Патала — Полное и окончательное разрушение чувств (фрагмент)
2 min

Как и ожидалось, испытуемые получили негативный опыт от прослушивания и, из-за желания описать ощущения во всей полноте, использовали синестетические описания.

Яркие примеры таких описаний из комментариев участников фокус-группы о прослушанной записи: «высокие частоты просверлили дыру», «поскребли мелом по доске», «ударные отбивают перепонки», «произошло сворачивание ушей», «в середине песня проезжает по слушателям», «скрежет ногтей о стекло».

Кинестетико-слуховая

Кинестетико-слуховая синестезия — вид восприятия, из-за которого синестет может слышать звуки, наблюдая за движениями объектов, которые в действительности звуков не издают. Например, человек с таким видом синестезии способен различать щелчки крыльев летящего мотылька или свист беззвучного кольца загрузки на экране монитора. Встречается этот вид восприятия крайне редко, однако множество людей в повседневной жизни частично испытывают его эффект.

Например, это происходит при просмотре популярных видео и мемов.

Original size 1280x720

Шоу «Comedy Баттл», Сергей Светлаков, 2013 г.

Original size 1280x720

Клип «Никогда тебя не брошу», Рик Эстли, 1987 г.

В представленных выше gif-изображениях отсутствует звук, тем не менее мы можем представить, как они должны звучать или даже «услышать» звуковое сопровождение. В отличие от мозга синестета, активирующего отделы, отвечающие за обработку звука, наш мозг обращается к памяти.

Мем — единица информации, которая постоянно переходит от человека к человеку и неоднократно выпадает в ленту пользователя интернет-сети. Именно поэтому мозгу не составляет труда восстановить звук из визуального образа мема, опираясь на память.

Более того, мозг может дополнять видео звуком, даже если сталкивается с ним впервые.

Original size 0x0

Анимация, прыгающая башня ЛЭП

Gif-изображение выше — слуховая иллюзия, возникающая из-за особенностей обработки информации мозгом.

Человек не может восстановить звук из памяти, во-первых, потому что в исходном видео никогда не было звука, во-вторых, со 100% вероятностью в реальной жизни он не имел опыта столкновения с прыгающими ЛЭП башнями.

Original size 3500x461

Тем не менее, каждый, кто сталкивался с ЛЭП конструкциями, знает, насколько они огромны и тяжеловесны. Эффект трясущейся камеры в момент приземления башни дополняет полученную информацию об её весе. В конечном счете, мозг всё же обращается к памяти, но эта память относится не к конкретному видео, а к нашей общей информации о мире: что происходит при приземлении огромных объектов? Какой звук в видео чаще всего следует после тряски камеры? Как правило, грохот. Так и возникает слуховая иллюзия близкая по своей сути к кинестетико-слуховой синестезии.

«Запечатывание» звука в определённый визуальный образ и дальнейшее использование этого образа — средство выразительности, основанное на кинестетико-слуховой синестезии.

Виды применения синестетических художественных средств

Украшение и дополнение

В разных областях искусства к синестетическим средствам выразительности обращаются, чтобы дополнить основной источник информации другими источниками. Например, в поэтике используют синестетические метафоры, чтобы предать смысловому полотну стихотворения текстуру и фактуру.

«Я сошью себе чёрные штаны из бархатного голоса своего!» — В. Маяковский.

«И над миром, холодом скован, / Пролился звонко-синий час» — А. Блок.

В музыке же, следуя идеям Скрябина, музыкальные произведения дополняют визуальным сопровождением, чтобы усилить эффект от прослушивания. Зачастую зрителя стараются «погрузить» в светомузыкальное шоу. Подобные шоу называют иммерсивными представлениями. Например, Перформанс «7» —светомузыкальное шоу Александра Зарипова. На протяжении сорока минут участники шоу наблюдают, как семь световых колонн подсвечиваются разными цветами, при этом каждый цвет сопровождается своей музыкой.

Original size 1080x720

«Перформанс 7», Александр Зарипов, 2021 г.

Замена основной информации

В отличие от предыдущего способа такой подход предполагает, что синестетические средства выразительности не дополняют авторское произведение, а составляют его основную часть.

Например, в живописи синестетическая замена происходит, когда художник пишет абстрактную картину, отражающую конкретную музыку, но при этом автор не знакомит зрителя с зашифрованной музыкой. Основной источник информации отсутствует, его заменяет синестетическая переработка.

В поэтике в рамках подхода синестетические средства заменяют смысловую часть стихотворения. Этот приём можно проследить в произведениях Артюра Рембо.

«…А — траурный корсет под стаей мух ужасных, Роящихся вокруг как в падали иль в тине, Мир мрака; Е — покой тумана над пустыней, Дрожание цветов, взлет ледников опасных. И — пурпур, сгустком кровь, улыбка губ прекрасных В их ярости иль в их безумье пред святыней».

Отрывок из сонета Артюра Рембо «Гласные» в переводе Николая Гумилёва.

В музыке замена основной информации синестетическими средствами часто происходит для создания инклюзивной среды на концертах: помимо переводчика на жестовый язык глухим и слабослышащим на концертах могут предоставить специальные устройства, усиливающие вибрации басовых партий музыки для того, чтобы слушатели могли лучше тактильно ощущать ритм песен. К тому же такие концерты сопровождаются специальным световым шоу для создания дополнительных ассоциаций.

Аллюзии и прямые отсылки

Сам феномен синестезии в искусстве переодически берут в качестве основной темы произведения. В литературе есть немалое количество прозы, сюжет которой строится вокруг этого явления, например, его можно обнаружить в книгах «Империя мороженного» Джеффри Форда, «Прекрасное разнообразие» Доминика Смита, «Мальчик с голубыми глазами» Джоан Харрис и в других произведениях.

В музыке композиторы так же обращаются к этому явлению.

Так в песне «Призрак синестезии» японского певца-композитора известного под творческим псевдонимом «sassnomaly» повествуется о сложных чувствах персонажа эмпанта-синестета. Упоминание синестезии в тексте песни подчёркивает безграничность эмпатии героя, теряющего в других самого себя.

Перевод некоторых строчек композиции:

«Сейчас я вижу звуков цвета, Сейчас я могу коснуться цвета твоей души (今 見える 音の色, 今 触れる 君の色)»

Вольный перевод, автор оригинала — sassnomaly.

Заключение

В рамках исследования были выявлены и классифицированы синестетические средства выразительности, базирующиеся на видах звуковой синестезии, а также способы их применения в искусстве.

Original size 2727x1488

Классификация, проведённая в ходе исследования

В современном мире искусство стремится к интерактивности: авторы всё чаще дают зрителям пространство для вольной трактовки своих произведений, подталкивают их к наполнению художественных работ личными ассоциациями, активно развивается такое направление как перформанс.

Новые для 1910 года идеи Скрябина о создании светомузыки, используются сейчас повсеместно. Искусство находится в поиске путей взаимодействия со своим зрителем, а синестезия как средство выразительности, подразумевающая воздействие на несколько органов чувств человека, становится всё популярнее из-за способности эффективно погружать зрителя в произведение. Области звука и музыки также находятся в поиске своих путей взаимодействия. Именно поэтому важно изучать феномен синестезии и проводить классификацию средств выразительности, созданных на его основе.

Bibliography
Show
1.

Рамачандран В., Хаббард Э. Звучащие краски и вкусные прикосновения. — М:.В мире науки, 2003. — с. 47-53.

2.

Цитович Р. Э. Синестезия: объединение чувств — Кембридж, Массачусетс:. Издательство Массачусетского технологического института, 2002.

3.

Барон-Коэн С., Харрисон Дж. Э. Синестезия: классические и современные чтения. — Оксфорд, 1996.

4.5.

Кандинский, В.В. О духовном в искусстве — М.: Эксмо, 2014. — С. 47.

6.

Пьер Птифис. Артюр Рембо. — М.: Мол. гвардия; Палимпсест, 2004.

Синестезия в звуке как средство выразительности
4
We use cookies to improve the operation of the HSE website and to enhance its usability. More detailed information on the use of cookies can be fou...
Show more