Как указал Эрик, ' это CTRANSPOSE, т.е. "сопряженная матрица или (комплексная) сопряженная транспозиция", которая дает тот же результат при применении на реальных матрицах, но на комплексных матрицах
отрицает знак мнимой части комплексных элементов в A
Если вам нужно только
заменяет индекс строки и столбца для каждого элемента
то вы будете использовать .'.
Ответ 2
Обратите внимание, что ' является оператором CTRANSPOSE в MATLAB. Если вы не хотите сложного сопряжения, используйте .', который является методом TRANSPOSE.