Предположим у меня в таблице БД под миллион записей, если загрузить сразу все в датасет  , то есть вероятность что комп клиента долго переваривать эти записи. Какой другой вариант решения это проблемы? 
Если предположим мы отображаем данные в DataGridView, то можно вызывать по 50 записей за раз, а потом  во время прокрутки как только видимой становится последняя строка  ещё 50 записей и т.д. 

darkness, 
Насчет прокрутки не знаю, а вот если отображать постранично и повесить это на кнопку Next, то можно использовать sql запрос с BERWEEN begin AND stop 
отображает строки начиная с begin и кончая stop включительно.
И потом пользователю совсем не обязательно видеть все поля таблицы, значит выборку можно уменьшить.
Нас учили "пихать" в Дата Сет только те данные, которые нужны в данный момент.

А поконкретнее примерчик можно?
У самого таже ситуация...

а если пользователь не хочет жать на кнопку или вообще кнопки нет?!
Этот вопрос поднимался и именно путем подгрузки он и решается и в запросе как раз будут учавствовать условия, может быть даже и between.