iPhone 3Gを利用するためにはMac OS X 10.4(Tiger)以降が必要です。
http://broadband.mb.softbank.jp/mb/iphone/pdf/i_guide_environment.pdf
また、OSのメジャーバージョンアップ(この場合は10.2から10.3)はパッケージ版を購入する必要がありますが、さすがにMac OS X 10.3のパッケージ版の新品は販売してないです。
ということで、
・オークション等でMac OS X 10.3のパッケージ版を購入し「TigerUpgradeディスク」でTigerにアップグレードする。
・Mac OS X 10.4のパッケージ版を購入する。AppleStoreには在庫があるかも知れません。
という手段が考えられます。ですが、そこまで苦労するのであれば、新規にMac本体を購入した方が正直楽だと思います。
多分残りますが「絶対大丈夫」とは言えませんので、必要なデータはあらかじめ外付けHDDやCD-Rにバックアップして下さい。
また、メモリ640MBでMac OS X 10.4を利用するのはちょっとシンドイです。できれば1GBほど欲しいのですが、残念ながらiBook G3では640MBが最大です。
また、iPhoneをUSB 1.1で接続した場合、次の様な不具合が発生する可能性があります。
http://support.apple.com/kb/TS1286?viewlocale=ja_JP