江戸時代、江戸のまちの急激な人口増加による飲用水不足を解決するため、幕府は多摩川の水を引いてくる上水（水道）の計画をたてました。
これが「ゆずり橋」の下を流れる玉川上水です。

玉川上水は、安松金右衛門が上水の水盛（設計）を、玉川清右衛門、庄右衛門兄弟が工事を担当し、１６５３年に着工、１６５４年に完成したといわれています。
多摩川上流の羽村から四谷大木戸まで約４３キロメートル、そこからさらに石や木でできた水道管で地下にもぐってまちの中をめぐり、江戸城内にも引き込まれていました。
当時の上水は土地の高低差を利用して水が自然に流れる仕組みで、工事には優れた測量技術が必要でした。

その後、玉川上水から分水した水路が何本もできました。
世田谷区内でも分水が出願され、北沢用水（北沢川）と烏山用水（烏山川）ができ、流域の村々の農業用水として使われました。
また、品川領の水田灌漑のために玉川用水から分水した品川用水も区内を流れていました。

やがて明治時代になって東京の人口がますます増加すると他にもたくさんの給水路ができ、玉川上水はだんだん使われなくなり、下流部分はふたをして道路や緑道になってしまいました。
しかし、長い歴史を持つ玉川上水とその周囲の自然を残そうという人々の願いから、土手や岸を整備し、１９８６（昭和６１）年に下流にも約２０年ぶりに水を流すようになりました。
区内では代田橋付近からゆずり橋までが昔ながらの水路となっており、他は緑道などになっています。

この玉川上水に架けられた「ゆずり橋」は、代田児童館の協力により、子どもたちのアイデアを生かしてデザインされました。「こんな橋があったらいいな」という子どもたちの絵から、アーチ橋、窓のある橋、迷路のようなイメージ、星の時計、などの新しいアイデアがとり入れられています。広場には、２００１年に掘り出す予定の６基のタイムカプセルが埋められています。

この橋の管理上の名称は玉川上水一号橋といいますが、橋を新しくするのをきっかけに地域の人々に「ゆずり橋」という通称名をつけてもらいました。以前、端の幅が狭かったのでみんなはゆずり合って渡っていました。そのやさしさと、代々子どもたちにこの橋をゆずる、という意味が「ゆずり橋」の名にこめられています。

「ゆずり橋」と平行に玉川上水をまたいでいるのは、代田橋駅前の水道局和田掘給水所から引かれている水道管です。玉川上水は江戸時代の水道でしたから、このゆずり橋は新旧ふたつの水道の交差する場といえるでしょう。