Transzmisszió Elsőként számítsuk ki a távcső és a spektrogáf optikai elemein történő visszaverődések során keletkező fényveszteséget. A T transzmisszós együtthatót a következő kifejezés adja:

, (4)

ahol az egyes tényezők jelentése:

Ezen értékekel számolva T=0,18 20 m m-os rés esetén, illetve T=0,35 a 40 m m-os résszélesség mellett.

Érzékenység Pontszerű forrás esetén, mint egy csillag esetében is, az S érzékenységet elektron/pixel/másodperc formában fejezzük ki a távcső belépő apertúrájánál 1 foton/cm²/másodperc/Å ngström beérkező fluxus mellett.

, (5)

ahol T az előbb meghatározott transzmissziós együttható, A a távcső fénygyűjtő felülete, QE a detektor kvantumhatásfoka, dl pedig az egy pixel által lefedett spektrális tartomány (l. az előző táblázat 4. oszlopát). Számoljunk a továbbiakban a hidrogén Balmer-alfa vonalának közelében, 650 nm-re, itt az ST-9-es CCD kamera kvantumhatásfoka 65%.

T = 0,18 / 0,35
A = 1186 cm², figyelembe véve a távcső segédtükrének központi kitakarását
QE = 0,65 (CCD KAF-0260 E 650 nm-en)
dl = 0,5 / 1,1

Ezen paraméterekkel S= 69,4 / 152,6 (20 m m-os résszélesség mellett), illetve S = 134,9 / 296,8 (40 m m-os résszélesség mellett) elektron/pixel/másodperc 1 foton/cm²/másodperc/Å ngström beérkező fluxus mellett.

Hasznos jel Egy csillag spektrumának felvételekor a jel nagyságának elektronban történő kifejezése az alábbi képlet szerint történik:

, (6)

ahol C az NxM pixeles területen belül összegyűlt elektronok száma, E a mért csillag fluxusa az atmoszféra fölött foton/cm²/s/Å -ben kifejezve, Ta pedig az atmoszféra transzmissziója.

Ta = 0,7 átlagosan a tengerszinten (650 nm-en), ami hozzávetőleg 0,4 magnitúdós fénycsökkenést jelent
N = 1, ill. 2; a diszperziós tengely mentén csak a 40 m m-os résszélesség mellett érdemes összeolvasni pixeleket, ekkor ugyanis a spektrális tisztaság két pixel szélességűnek felel meg, 20 m m-os résszélesség mellett N értéke csak 1
M = 1, ill. 2, az előbbihez hasonlóan

A következő táblázat A értékére nézve ad tájékoztatást egy A0V színképtípusú csillag esetén (mint amilyen a Vega, a Lant csillagkép legfényesebb csillaga):

6500 Å körül a 0 magnitúdós Vegára számítva:

,

,

ahol a C ₀ indexe a magnitúdóban kifejezett fényességre, a ₂₀ index pedig a rés szélességére utal, a kapott két érték pedig az 1200 vonal/mm, illetve a 600 vonal/mm-es rácsokra vonatkoznak.

Valamely adott m, nem 0 magnitúdó fényességű (de továbbra is A0V színképosztályú csillagra) számolva:

. (7)

Így pl. egy 8 magnitúdós csillagra 20 m m-os résszélesség mellett C_8,20=21,5/47,2 elektron/másodperc, egy 10 magnitúdós csillagra 40 m m-os résszélesség mellett C_10,40=26,5/58,2 elektron/másodperc adódik.

Jel/Zaj A spektrumok kiértékelhetőségének kritériuma a megfelelő jel/zaj viszony, ami S/N=20-at el kell érje. A jel/zaj viszony számítása az alábbiak szerint történik:

, (8)

ahol az egyes paraméterek:

I = az expozíciós idő másodpercben
C = az előbb kiszámított hasznos jel elektron/másodpercben megadva az esetleges pixelösszevonásokat figyelembe véve
B = az égi háttér értéke (szórt fény), elektron/másodperc/pixelben
D = a sötétzaj, elektron/másodperc/pixelben
N = a diszperziós tengely mentén összeolvasott pixelek száma
M = a diszperziós tengelyre merőleges irányban összevont pixelek száma
n = az I integrációs idő eléréséhez összegzett képek száma
s = a detektor kiolvasási zaja elektronban megadva

Külvárosi égbolton az égi háttér értéke hozzávetőlegesen 17 magnitúdó/négyzetívmásodperc, ami mintegy 40 elektron/pixel/másodperces, az égi háttérből származó jelnek felel meg. Az ST-9-es detektor kiolvasási zaja 13 elektron, sötétzaja 5 elektron/pixel/másodperc -20 ^oC-ra hűtve. 20 m m-os résszélesség mellett M=N=1, 40 m m-os résszélesség mellett M=N=2.

Az távcsőmechanika esetleges hibái, a követési pontatlanság miatt (kis időkre elhagyja a rés a csillagot) érdemes több, rövidebb expozíciós képet készíteni általában. Ezen spektrográf kialakításában olyan, hogy a rés rektaszcenziós irányban áll. A tervezés során helyeztem el a rést így, ezáltal elérhető volt a legoptimálisabb súlyelosztás a távcső terhelése során, valamint a kisebb követési pontatlanságok sem okoznak jelentős fényveszteséget. Számoljunk tehát a továbbiakban n=1-el. Átrendezve a jel/zaj viszonyra felírt egyenletet az integrációs időre, kiszámítható a kívánt S/N=20 arányhoz tartozó integrációs idő. Az átrendezés során végezzünk el egy közelítő egyszerűsítést. A (8)-as kifejezésben ugyanis egy kép készítése, vagyis n=1 és s kis értéke mellett a nevező utolsó tagja elhanyagolható az első két taghoz képest, ezáltal I-re rendezve a következő kifejezést kapjuk:

. (9)

Az S/N értékét 20-nak véve, valamint a többi tényező értékét a fent számítottak alapján behelyettesítve az alábbi expozíciós idők adódnak:

8 magnitúdós csillag, 20 m m-os résszélesség: I = 58 / 17 másodperc,
10 magnitúdós csillag, 40m m-os résszélesség mellett: I = 66 / 18 másodperc,

ahol az első érték az 1200, a második pedig a 600 vonal/mm-es rácsra vonatkozik (a kiolvasási zaj figyelembevételével ezek az értékek 5-10 százalékkal nagyobbak lehetnek).