Matematické Fórum

Nevíte-li si rady s jakýmkoliv matematickým problémem, toto místo je pro vás jako dělané.

Nástěnka
22. 8. 2021 (L) Přecházíme zpět na doménu forum.matweb.cz!
04.11.2016 (Jel.) Čtete, prosím, před vložení dotazu, děkuji!
23.10.2013 (Jel.) Zkuste před zadáním dotazu použít některý z online-nástrojů, konzultovat použití můžete v sekci CAS.

Nejste přihlášen(a). Přihlásit

#1 25. 02. 2021 13:03

petabeda
Zelenáč
Příspěvky: 3
Reputace:   
 

Modulo zohledňující chyby během celočíselného dělení

Ahoj matematičtí lidé,

mám celočíselnou proměnnou V, která je v intervalu <0..255>

konstanta ELN říká, na kolik částí chci interval <0..255> rozdělit

proměnná ELI je vypočítaný index oné části:
ELI = int( ELN * V / 256)

Mou snahou je napsat takou funkci pro výpočet hodnoty (proměnná ELV) udávající průběh v rámci jedné části (modulo)

Vše je v této tabulce:

https://docs.google.com/spreadsheets/d/ … edit#gid=0

jde mi o to, napsat vztah pro výpočet ručně vložených hodnot v sloupcích D a E.


Petr Spilka

Offline

  • (téma jako vyřešené označil(a) petabeda)

#2 25. 02. 2021 17:25

Stýv
Vrchní cenzor
Příspěvky: 5592
Reputace:   214 
Web
 

Re: Modulo zohledňující chyby během celočíselného dělení

Nějaké vzorce jsem ti tam napsal, ale radši si to zkontroluj.

Offline

 

#3 25. 02. 2021 17:34

petabeda
Zelenáč
Příspěvky: 3
Reputace:   
 

Re: Modulo zohledňující chyby během celočíselného dělení

↑ Stýv:

Snad se mi podaří na to napsat funkci, kterou budu moct použít v kódu. Oříšek pro mne asi bude nahradit ten COUNTIF ale s tím se nějak poperu.

Děkuji ti za ukázaní cesty!

Petr

Offline

 

#4 25. 02. 2021 20:19

Stýv
Vrchní cenzor
Příspěvky: 5592
Reputace:   214 
Web
 

Re: Modulo zohledňující chyby během celočíselného dělení

↑ petabeda: Jo jestlis to chtěl pro normální program, tak prostě detekuj ty přechody mezi částmi podobně jako ve sloupci D. Tam je pak jenom třeba ošetřit nějaký krajní případ, tak jsem si to zjednodušil pomocí countif za cenu jisté neefektivity.

Offline

 

#5 25. 02. 2021 21:44

petabeda
Zelenáč
Příspěvky: 3
Reputace:   
 

Re: Modulo zohledňující chyby během celočíselného dělení

↑ Stýv:

Děkuji,

myslis si, čistě teoreticky, ze by šla udělat funkce která by nepočítala s hodnotami z jiných radků?

Nebo je to vyloučené z povahy věci a musím to řešit buď iteracne nebo pres pomocnou tabulku ( LUT ) ?

Offline

 

Zápatí

Powered by PunBB
© Copyright 2002–2005 Rickard Andersson