Спереди-вверх. Его, грубо говоря, открыло.
Как? Вот фото "Эстонии" с открытым визором:

Вот она же, но в рейсе:

Обратите внимание - на фото в рейсе сложно даже разглядеть границу между корпусом и визором. Кроме того, визор, масса которого составляет 50 тонн, подвешен сверху, и собственной массой тоже прижимается к корпусу.
Вот схема "Эстонии":

Дорисуем мысленно на нее направление волн - строго спереди, или спереди-сбоку (с любого). Совершенно очевидно, что напор волн будет лишь прижимать визор к корпусу.
Что, собственно говоря, совсем неудивительно. Это вполне логично - сделать визор именно так: без выступающих частей, которые могли бы оказать сопротивление волнам, подвесить его вверху, чтоб его масса тоже работала на прижим, и оформить линию носовой части таким образом, чтобы напирающие волны ни в коем случае не создавали усилие на отрыв визора.
А теперь мысленно приподнимем визор, пусть не в причальное (погрузочное) положение, а градусов хотя бы на 10-15. И картина полностью меняется. Масса визора оказывается скомпенсированной механизмом подъема. Зализанность стыка тоже исчезает, а главное, напору волн становятся доступны нижняя плоская часть визора (видна на фото с поднятым визором) и тыльная, обращенная внутрь судна стенка. Вот тогда сильные волны, проникнув в щель между приподнятым (хотя бы приподнятым; про полностью поднятый уже не говорю) визором и корпусом, и будут давить - на плоскую часть - снизу вверх, нагружая узлы подвеса, а на внутреннюю стенку - может давить вообще на отрыв визора вперед (вода, проходя сквозь небольшую щель, приобретает большую скорость, и, значит, малое давление, а вот выйдя из щели, потеряет скорость, зато увеличит давление - закон Бернулли). В таком случае можно рассматривать и сброшенную в воду контрабанду.
Либо можно рассмотреть случай, что визор только опустили, но не закрыли замки, и он лежал на месте только под собственным весом. Если волны шли строго в нос судна, то неизбежна килевая качка. И вот тут-то незапертый визор и может начать "хлопать", болтаясь на узлах подвеса (на что они судостроителем не рассчитан совершенно), издавая резкие звуки (не их ли выжившие пассажиры приняли за взрыв или серию взрывов?), при этом волны вполне могут "подхватывать" приоткрывшийся визор, и действовать на него точно так же, как на умышленно открытый. Тогда это - дичайшая ошибка или халатность команды (где-то проскакивало предположение, что боцман судна, обязанный проверить состояние визора, этого не сделал; впрочем, это было именно версией, не утверждением).
Можно, как вариант, рассмотреть и случай, когда визор был закрыт, но на него нечто действовало изнутри. Не то взрыв (правда, кто и зачем?), не то сорванные с хлипких креплений автомобили. Не легковушки, конечно; но, скажем, хорошо груженая фура может иметь полную массу, сравнимую с массой визора - 50 т. А если фура не одна? А пара, с общей массой под сотню тонн? Такой удар за раз может и снести визор, сорвав его сразу и с замков, и с узлов подвески.
Во всех трех случаях визор, умышленно ли открытый, просто незапертый или сбитый фурами, вполне мог под ударам волн расшатать узлы подвески, и, в конце концов, быть сорванным с них.
Что касается машинного отделения и автомобильной палубы. Если вода заливает машинное отделение - паром останавливается, но остойчивость повышается, т.к. машинное отделение внизу. А вот вода на автомобильной палубе снижает остойчивость, плюс огромная масса воды под воздействием качки перекатывается туда-сюда, еще больше раскачивая судно, что может привести к опрокидыванию на борт. Здесь аналогия с незакрепленным грузом. (Это насколько я понимаю ситуацию.)
Начну с автомобильной палубы. По конструкции она - не "корыто", а скорее плоскость. То есть, вода как заливается на нее, так и выливается. К тому же паром с самого начала имел дифферент на нос, минимум до 0:35 (когда с мостика ушел Эйнар Кукк, второй штурман) - а возможно, и до самой катастрофы. Следовательно, воде было куда проще выливаться через оторванный носовой визор, чем заливаться через него.
Теперь про машинное отделение. Вы верно пишете - "паром останавливается", или теряет ход. Но в условиях шторма это - никак не мелочь! Без хода не работает руль судна - а волны могут повернуть его бортом к волне, и... И тогда - беда. Вот тогда уже может сыграть и свою роль вода на автомобильной палубе - при крене она задержится внутри, усилит крен, и и вылиться уже не сможет - обратите внимание на фото "Эстонии" с поднятым визором: портал для въезда автомобилей довольно узок, а дальше, вероятно, автомобильная палуба расширяется (увы, плана "Эстонии" я не нашел). Но тогда при крене вода будет "заперта" внутри автомобильной палубы, как плечиками бутылки, и любая очередная порция воды будет оставаться внутри и лишь увеличивать крен. И в конце концов паром ляжет на борт и утонет.
Нашел, кстати, вот такую реконструкция перемещений парома в процессе катастрофы:

Если доверять ей, то разворот бортом к волне как раз и виден в интервале 1:01 - 1:02. И все дальнейшее время "Эстония" так и оставалась бортом к волнам.