liegt wohl an der Bedingung (keine passende gefunden oder (bin kein experte) an dem JOIN, kenn die nur aus SELECT da diese ja ein kartesisches Produkt liefern, d.h. vereinfacht die Schnittmenge beider Tabellen als eine Ergebnistabelle in der jedem Tupel sein evtl. vorhandener Gegenpart / Beziehung zugeordnet ist.
Deshalb mal ohne INNER JOIN

(-> EQUI JOIN, da haste dann auch ganz normales WHERE statt ON)
UPDATE bestellungen SET Offen='0'
FROM bestellungen, bestellartikel
WHERE bestellartikel.bestnr = bestellungen.bestnr
AND NOT EXISTS(SELECT Offen FROM BestellArtikel WHERE BestellArtikel.Offen='1')