Python⁠⁠

Непонятно, в чем вопрос. При любом нормальном копировании (присваивание, передача параметра и т.п.) передается ссылка. Умножение - копирование. Поэтому ссылки.
Почему так сделано - вопрос к авторам. Скорее всего, для экономии.
Впрочем, для нетривиальных объектов так во всех языках, кмк. Только более явно.

в следующий раз лучше копируйте код, не всегда понятно о чем идет речь без него.
насчет где хранится и почему так, если на пальцах, то есть два хранищила: стек и куча.

первый быстрый, но маленький. второй медленный, но большой.

в стек помешаются локальные переменные(с заранее известным размером), структуры и тд. и в стек попадают ссылки. ссылки эти ведут на большие или динамические данные, такие как списки, массивы и тд. сами данные списков, массивов и тд хранятся на куче. но это основа основ в программировании, которая актуальна для компилируемых языков. в питоне эту систему слегка изменили:
Управление памятью в Python включает в себя частную кучу, содержащую все объекты и структуры данных Python. Управление этой частной кучей обеспечивается менеджером памяти Python. Диспетчер памяти Python имеет различные компоненты, которые имеют дело с различными аспектами управления динамическим хранилищем, такими как совместное использование, сегментация, предварительное выделение или кэширование.
https://docs.python.org/2/c-api/memory.html

А можно подробнее: что Вы понимаете под изменением строки матрицы?

Просто, если создать таким образом квадратную матрицу, а затем заменить ей первую строку, ничего криминального не происходит

Хорошо. Тогда из подводных камней, могу предостеречь от того, чтобы указывать литерал в качестве значения аргумента по умолчанию. Например, попробуй:
def a(value, items = []):
items.append(value)
return items

print(a(1))
print(a(1))

Лучше делать так:
def a(value, items = None):
items = items if items is not None else []
items.append(value)
return items

print(a(1))
print(a(1))

Как вариант, можно использовать list-compehentions:
A = [[0 for _ in range(3)] for _ in range(3)]
_ - обозначение переменной, значение которой не нужно