Я разрабатываю код, который может получать его данные из HW в плавающей или фиксированной точке. В настоящее время мы получаем это как с плавающей запятой.Преимущества алгоритма фиксированной точки Холески
Низкоуровневые API-интерфейсы находятся в фиксированной точке. Поэтому мы должны передавать данные обратно в качестве фиксированной точки. Алгоритм, который мы используем, - Холецкий. Мне интересно, почему мы должны использовать плавающие точки для Cholesky, а не просто получать данные как фиксированные. Есть ли какие-либо преимущества в этом?
Я бы подумал, что использование с плавающей запятой вызвало бы большую ошибку округления.
Из-за любопытства, почему вы считаете, что с плавающей запятой вызывает больше ошибок? –
@SimonByrne Я думал, что плавающая точка будет подвержена ошибкам округления. В фиксированной точке мы знаем ошибку округления и поэтому можем компенсировать. – user1876942