ログインしてさらにmixiを楽しもう

コメントを投稿して情報交換!
更新通知を受け取って、最新情報をゲット!

プログラミング部コミュのメモ

  • mixiチェック
  • このエントリーをはてなブックマークに追加
ビビッときた記事やブログのURLを貼り付けたり、メモをするトピック。反応した人はコメントしたり、というものです。
空き時間にこのトピックをチェックすると1つくらい興味あるのが引っかかる、というような使い方になればいいなと思ってます。

コメント(20)

検索技術関連:形態素解析

○ロゼッタ
http://www.atmarkit.co.jp/news/200708/15/mooter.html
引用:検索エンジンの世界では、アジア系の言語にも強い米ベイシス・テクノロジーの形態素解析エンジン、「Rosette」(ロゼッタ)が高いシェアを持っている。グーグル、ヤフー、goo、マイクロソフトのLive Searchなど、メジャーな検索サイトで採用されている。

日本ではmecabが有名。kakasiや茶筅も有名。

○Nグラム方式
形態素でなく、数文字で文章を分割する方法。
メリット:
 2グラムで分割すると検索漏れがなくなる。
デメリット:
 分割しすぎるので求めていないキーワードがたくさんヒットしてしまう
 語句が多すぎるため、処理が重くなる。

○N.Mグラム方式
ハイパーエストレイヤーの方式。
スピードも検索漏れも抑えられるバランスのいい方式。

○Ruby高速化
「Ruby 1.9は1.8より平均5倍速い」、YARV笹田氏
http://www.atmarkit.co.jp/news/200709/07/yarv.html

○楽天がRoRを採用
http://www.atmarkit.co.jp/news/200703/15/rakuten.html

○Erlang(関数型言語、並列処理)
http://www.atmarkit.co.jp/news/200704/27/erlang.html
まつもとゆきひろ氏も、4月18日の“「次」の言語”と題したブログのエントリで「次にくるトレンドは『関数型』と『並列』。両方を押さえたErlangが本命。歴史も信頼性もあり、知名度上昇中」と、次にメジャーになりうる言語の本命にErlangの名前を挙げている。」

○Rails Platform
1ライセンス年間5万円。
まつもとゆきひろの在籍会社とオープンソースジャパンの共同開発のようですが、オープンソースじゃないみたいです。残念。
オブジェクト指向データベース

○RDBで階層構造を実現
http://www.geocities.jp/mickindex/database/db_tree_ns.html

○XMLDB
http://www.xmldb.jp

XMLDB用のスキーマとしては、SQLにあたるものとしてXQueryが標準になっている。

XQueryは、あまり使いやすそうな印象ではないので、SQLに機能追加されるなどRDBでなんとかカバーしていく方向が強いと見てます。

SQLに変わるような意識で作られたオブジェクト指向用のスキーマ調べてます。
商用RDBはOracle,DB2,MSSQLなど有名どころはほぼすべてXMLをサポートしたようです。

Oracle Database 11gはどこが新しくなったのか
http://www.atmarkit.co.jp/fdb/rensai/dbwatch2007/dbwatch200708_1.html
11gではXMLデータをネイティブで格納および操作が可能となるだけではなく、スキーマの有無やデータサイズといった状況に応じてXMLの保存形態を選ぶことが可能になる

頑張れニッポン! のデータベースたち
http://www.atmarkit.co.jp/fdb/rensai/dbwatch2007/dbwatch200707_1.html
日立のRDB ネイティブXMLのサポート
HiRDBはXQueryおよびSQLの標準規格であるSQL/XMLの主な機能をサポートしているため、HiRDBのXML型にデータを格納すればXQueryでもSQL/XMLでも問い合わせが可能となります
○オラクルの開発人月
オラクル11gの記事で、「延べ1500万時間のテストおよび延べ3万6000人月の開発」とあるのですが、どのくらいなのか計算してみました。
テスト:1人月160時間とすると9万3750人月。1人でやると7812年。
開発:1人でやると3000年。

目玉機能の1つ、「Oracle Real Application Testing」を使うとテストを短縮化できるそうなのですが、数千人規模のユーザーが使用する大規模なアプリケーションを2人でテストした場合、通常は149日かかるところ、11日で完了できるそうです。
テスト対象物と規模が違いますが、オラクル11gは2人だと4000年かかるのに比べて、差がありすぎる気が。


個人的には、少数精鋭が好きで、エンジニアによって生産性の差は何十倍にもなると思うので、1〜3人で開発するのが理想です。
フロー状態
http://ja.wikipedia.org/wiki/%E3%83%95%E3%83%AD%E3%83%BC

チクセントミハイという人が上げている8つの構成要素
1. 明確な目的(予想と法則が認識できる)
2. 専念と集中、注意力の限定された分野への高度な集中。(活動に従事する人が、それに深く集中し探求するする機会を持つ)
3. 自己に対する意識の感覚の低下、活動と意識の融合。
4. 時間感覚のゆがみ - 時間への我々の主体的な経験の変更
5. 直接的で即座な反応(活動の過程における成功と失敗が明確で、行動が必要に応じて調節される)
6. 能力の水準と難易度とのバランス(活動が易しすぎず、難しすぎない)
7. 状況や活動を自分で制御している感覚。
8. 活動に本質的な価値がある、だから活動が苦にならない。

プログラマにとって大事ですね。
関係ないですが、この状態を意識的につくろうとすると、ドラゴンボールでゴクウが常にスーパーサイヤ人でいれるよう訓練していたのを思い出してしまいます。
ミクシィ開発者ブログ
http://alpha.mixi.co.jp/
■フラッシュメモリとメモリ・ハードディスクの性能差
通常メモリはNAND型フラッシュメモリより桁違いに速い。
2004年で4.8ナノ秒のがでてます。
http://www.itmedia.co.jp/news/articles/0406/28/news053.html
転送速度も、最近のは6.4GB/secとか。(フラッシュメモリの転送速度は64MB/secくらい)

通常のハードディスクは、10ミリ秒程度。遅すぎる。
『平均ランダムアクセスタイムを約8%向上しているという。平均シーク時間は12ミリ秒』
http://ascii.jp/elem/000/000/060/60214/
10回シークしただけで0.1秒かかってしまう。

NAND型フラッシュメモリ搭載SSD
ファイルへの平均アクセスタイムは0.11m秒
http://journal.mycom.co.jp/news/2007/03/14/104.html
1000回シークして0.1秒。

NOR型フラッシュメモリ
ランダムアクセスが超高速だが、容量が低い。
2002年でランダムアクセス60ナノ秒。128MB。6000円。
http://www.toshiba.co.jp/about/press/2002_03/pr_j1101.htm

10ms ディスク
↓100倍速
0.1ms フラッシュメモリ
↓10000倍速
10ns メモリ

要するに、メモリはディスクの100万倍アクセス時間が速い。
youtubeやフリッカーのシステムの話がでてます。
http://d.hatena.ne.jp/stanaka/20070427/1177651323

youtubeやフリッカーはPHP+MySQL+memcache。OSにメモリを16GB。
youtubeってphpだったんですね。
ドメインに_を含めてはいけない。

IEはクッキーが無効になる。古いソフトバンクではアクセス自体できなくなる。
サブドメインにアカウントIDと同じものを使えるシステムなどを作るときは注意が必要。
「たべログ」はRubyで開発
http://japan.cnet.com/news/ent/story/0,2000056022,20353871,00.htm?ref=rss
トラフィック6位、アクティブ会員数5000万人、時価総額1.7兆とか言われていて、Googleの次にくると注目されているFacebookについて。

○Facebook Platform
http://alpha.mixi.co.jp/blog/?p=92
Facebook側が用意したAPIをアクセスしにくるという仕組みはおもしろいですね。
Facebook内でしか使えないアプリになりますが。

これ、Mixiもほぼ同じ仕組みの機能作ってる最中じゃないかと勝手に予想。
統一感を大事にしてるので、公開してもユーザーが受けいれないから、エンジニアが作りたくても、サービスとしては公開しないかな。。

これでWEB-OS作りたいって人いないですかね?
WEB上でAPI通信してOSっぽいの作りたいですねぇ。

○FacebookのフレームワークThrift
http://www.atmarkit.co.jp/news/200704/03/thrift.html
C++、Java、Python、PHP、Rubyのコードを生成。

PHP使ってるのは知ってたので、コア部分にC++使ってるくらいかと思ってたんですが、いろいろ使ってるんですね。
しかし、社長が23歳というのもすごいですね。ビルゲイツみたいだ。
ITpro Challenge! ニコニコ動画の作り方(動画)
http://www.nicovideo.jp/watch/sm1433582

Flash生成プログラムを500倍速にチューニングしたっていうの、PHP本体ではないと思っていたのですが、PHP本体もチューニングしたようですね。

恋塚さんも親指シフトが好きと言うことで、生産性10倍アップの本を読んで親指シフトキーボード買おうと思っていたんですが、買ってしまいました。
http://www.bestprice.net/hikaku/6GW0/
技術者にありがちな悪文
http://nosa.cocolog-nifty.com/sanonosa/2006/07/post_27a5.html

「よくある質問は掲示板に書いてあります。わからないことがあったらまずは必ず掲示板を見るようにしてください。それでもわからないことがありましたらメールでご連絡ください。簡単な問題であれば直ちに、難しい問題であれば極力翌営業日中までにご返答差し上げますが、お約束できるものではございません。内線でご連絡いただいても絶対にお答えできませんので必ずメールでご連絡ください。」
↓改善
「よくある質問は掲示板に書いてあります。それでもわからないことがありましたらメールでご質問いただければ簡単な問題であれば直ちに、難しい問題であれば極力翌営業日中までにご返答差し上げます。原則内線では受け付けられませんのでご了承ください。」

ネットワーク関連の調べ物でこの人のブログを見たのですが、内容が良いです。
Amazonの破格なストレージサービスS3

月額利用料$0.15
アップ転送料1GB/$0.1
ダウン転送料1GB/$0.18
リクエスト(PUT or LIST)1000回/$0.01
リクエスト(GET or etc)10000回/$0.01

バックアップ用途に向いています。しかし安い…。
10MBを毎日バックアップとっても、$0.15+$0.1*0.01*30で月18円です。
100GBおいて何もしなければ初月1015円で月額15円ですからね。1回ダウンロードするのに1800円かかりますが。
実際は、200MBくらいをストレージしておいて、DBのダンプなど数MBをバッチで定期バックアップするような使い方がいいのではないでしょうか。http://www.amazon.com/gp/browse.html?node=16427261
Google,Amazon,Yahooは最低価格または無料でリッチなサービスをどんどん公開してくるので驚異的ですね。。
http://www5e.biglobe.ne.jp/~aji/3min/index.html
3 minites Networking
ウェブ技術者は必見かと。
http://www.shinchosha.co.jp/foresight/web_kikaku/u138.html
目からうろこが何枚も落ちたオープンソースの“人間的本質”
-------------------------------
世界中に知的レベルの高い人々は本当にたくさんいるが、その大半は自分で問題設定することができない。プログラマーの世界で言えば、プログラミングは好きだが何のプログラムを書けばいいかわからないという人が世界中に溢れている。成功しているオープンソース・プロジェクトは、そういう人々に対して、次から次へと「適切なサイズの問題」を供給するのだ。
-------------------------------

うーん、このコミュでも頭の体操的なちょっとしたお題をやってみますかね。
ウルトラモンキー
国産のOSSロードバランサーです。
特徴は、L7対応していることで、LVSはL4までしか対応しておらず、アクセス先のURLからサーバを振り分けることはできなかったのができるようになります。
LVSや市販のLBとの性能比較や実績を知りたいところです。
L7対応であることからかなり注目していて、LVSからの移行検討をしています。
米軍、「テレパシー」研究を本格化[09/05/19]
http://news.aimu-net.com/read.cgi/femnewsplus/1242745446/
--
戦場無線も、軍用携帯情報端末(PDA)も、歩兵の手信号でさえ、もういらない。
将来の兵士たちが連絡を取りたくなったときは、お互いの思考を読むようになるからだ。
少なくとも、米国防総省のマッド・サイエンス研究部門である国防高等研究計画庁(DARPA)の
研究者たちは、そうなることを望んでいる。
--

これは興味をそそられます。実用化は相当先でしょうけど。
アップルの株時価総額、MS超え
http://www.yomiuri.co.jp/net/news/20100527-OYT8T00821.htm

今日は歴史的な日ですね!

ログインすると、みんなのコメントがもっと見れるよ

mixiユーザー
ログインしてコメントしよう!

プログラミング部 更新情報

プログラミング部のメンバーはこんなコミュニティにも参加しています

星印の数は、共通して参加しているメンバーが多いほど増えます。